ChatGPT psikoz riski yaratıyor
Yeni rapora nazaran ChatGPT ve başka tanınan yapay zeka sohbet robotları insanları psikoza sürüklüyor.
Birleşik Krallık Ulusal Sıhhat Servisi (NHS) tabiplerinin da ortak müellifliğini yaptığı çalışma, büyük lisan modellerinin (LLM) savunmasız kullanıcılarda “gerçeklik hudutlarını bulandırdığına” ve “psikotik semptomların başlangıcına yahut şiddetlenmesine katkıda bulunduğuna” dair ispatların arttığı ikazında bulunuyor.
Independent Türkçe’nin aktardığı araştırma, bireylerin “sohbet robotu psikozu” diye isimlendirilen duruma düştüğüne dair onlarca raporun akabinde geliyor.
Çalışmaya katılan King’s College London’dan nöropsikiyatrist Hamilton Morrin, sohbet robotu psikozunu şimdi anlaşılmaya başlanan “gerçek bir olgu” diye tanımladı.
LinkedIn’de paylaştığı gönderide, “Bazı kamuoyu yorumları ahlaki panik alanına kaymış olsa da bilhassa onaylamak, etkileşim kurmak ve taklit etmek üzere tasarlanan yapay zeka sistemlerinin, psikozu karakterize ettiği bilinen bilişsel zayıflıklarla nasıl etkileşime girebileceği konusunda daha farklı ve değerli bir tartışma yapılması gerektiğini düşünüyoruz” diye yazdı.
Makineler hakkında sanrıların ortaya çıktığı noktayı muhtemelen geçtik ve bu sanrıların makinelerle birlikte ortaya çıktığı bir periyoda giriyoruz.
King’s College London’da ders veren ortak muharrir Tom Pollack, psikiyatrik bozuklukların “nadiren apansız ortaya çıktığını” lakin yapay zeka sohbet robotlarının kullanımının “tetikleyici bir faktör” olabileceğini söyledi.
Yapay zeka şirketlerini araçlarına daha fazla güvenlik tedbiri eklemeye ve yapay zeka güvenlik gruplarına psikiyatristleri de dahil etmeye çağırdı.
The Independent, bu olgu hakkında yorum almak için OpenAI’la bağlantıya geçti. Şirket daha evvel “insanların yapay zekayı hayatlarında gerçekte nasıl kullandığına dair güvenlik, ahenk ve hassaslık çıtasını yükseltmeye devam etmesi” gerektiğini söylemişti.
OpenAI işvereni Sam Altman, mayısta katıldığı podcast’te, şirketinin savunmasız ChatGPT kullanıcıları için işe fayda güvenlik tedbirleri almakta zorlandığını söylemişti.
Zihinsel bakımdan gereğince hassas durumda olan, psikotik krizin eşiğindeki kullanıcılara ihtarın nasıl iletileceğini şimdi çözemedik.
“Delusions by design? How everyday AIs might be fuelling psychosis (and what can be done about it)” (Tasarım kaynaklı sanrılar mı? Günlük yapay zekalar psikozu nasıl tetikliyor olabilir [ve bu hususta neler yapılabilir]) başlıklı makalenin önbaskı hali PsyArXiv’de yayınlandı.
