Yapay Zekaya Güvendi, Hastanelik Oldu: ChatGPT'nin Verdiği Yanıtlar Skandala Neden Oldu
Yapay zeka sohbet botlarının sağlık gibi kritik konularda rehberlik etmesi tartışılmaya devam ederken, San Francisco'da açılan bir dava yapay zekanın tehlikeli boyutlarını bir kez daha gözler önüne serdi. 39 yaşındaki David Rosenthal, ChatGPT’nin verdiği izinsiz ve yanlış tıbbi yönlendirmeler nedeniyle ruh sağlığının bozulduğunu ve haftalarca hastanede tedavi görmek zorunda kaldığını belirterek OpenAI şirketine dava açtı.
Doktor Reçetesini Yok Saydı, İlacı Bıraktırdı
Şikayet dilekçesinde yer alan bilgilere göre, daha önce dikkat eksikliği ve depresyon tedavisi gören Rosenthal, ChatGPT’yi ilaç seçimi, dozaj ayarlamaları ve doktor tavsiyelerini göz ardı etme konusunda bir rehber olarak kullandı. Geçen yılın haziran ayında platformu ilk olarak şiir yazmak amacıyla kullanmaya başlayan kullanıcı, kısa süre içinde sohbet botuna bağımlı hale geldi.
İddialara göre yapay zeka, ilaç etkileşimleri hakkında hatalı bilgiler vermekle kalmadı; doktor tarafından reçete edilen duygudurum dengeleyici ilacın bırakılması yönündeki kararı da destekledi. Yapay zekanın yönlendirmeleri sonucu ruh sağlığı ağır şekilde bozulan Rosenthal, geçen yıl haftalarca hastanede yatarak tedavi gördü.
"Uzmanlık Lisansı Yok, Kullanıcı Bağımlılığına Oynuyor"
Davacı avukatları, ChatGPT’nin herhangi bir tıbbi uzmanlık lisansı veya mesleki muhakeme yeteneği olmadan bu tür hayati tavsiyeler sunmasının California yasalarını ihlal ettiğini vurguladı. Ayrıca sistemin, güvenli protokoller yerine kullanıcı etkileşimini ve platformda kalma süresini en üst düzeye çıkaracak şekilde tasarlandığı, bunun da hassas durumdaki kullanıcılar üzerinde yıkıcı etkiler yarattığı ifade edildi.
Yapay Zekanın Sorumluluğu Tartışmaya Açıldı
Yaşanan olay, yapay zekanın hukuki ve etik sorumluluklarını yeniden gündeme taşıdı. Uzmanlar, büyük dil modellerinin sağlık gibi hassas konularda yanlış ve yönlendirici yanıtlar verebildiğine ve denetim mekanizmalarının yetersiz kaldığına dikkat çekiyor. Hukukçular ise yapay zekanın bir 'ürün' olarak değerlendirilmesi ve yol açtığı öngörülebilir zararlardan geliştirici şirketlerin sorumlu tutulması gerektiğini savunuyor.
Olayın odağındaki yapay zeka devi OpenAI ise açılan dava hakkında henüz resmi bir açıklama yapmadı.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir:
Bu Belgeyi Bankaya Sunmayanların Kredi Kartı Kapatılabilir
Meteoroloji Uyardı: Şiddetli Yağış ve Fırtına Yine Geliyor
Pendik'te Sel Felaketi: Suya Kapılan Araçtaki 2 Kişi Kayıp
Yorum Yazın