Yeni yayınlanan bir rapora göre, ChatGPT ve benzeri yapay zeka sohbet robotları, kullanıcıları psikoza sürükleyebiliyor.
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Birleşik Krallık Ulusal Sağlık Servisi (NHS) doktorlarının katkısıyla hazırlanan çalışmada, büyük dil modellerinin (LLM) savunmasız bireylerde “gerçeklik algısını bulanıklaştırdığı” ve “psikotik semptomların ortaya çıkmasına veya kötüleşmesine yol açtığı” yönünde artan kanıtların bulunduğu belirtiliyor.
Araştırma, “sohbet robotu psikozu” olarak adlandırılan duruma dair birçok raporun gündeme gelmesinin ardından ortaya çıkıyor.
Çalışmada yer alan King’s College London’dan nöropsikiyatrist Hamilton Morrin, sohbet robotu psikozunu henüz tam olarak anlaşılmamış bir “gerçek olgu” olarak tanımladı.
LinkedIn üzerinden yaptığı paylaşımda, bazı kamuoyu yorumlarının ahlaki bir panik ortamına kaydığını belirtirken, yapay zeka sistemlerinin, psikoz ile ilişkili bilişsel zayıflıklarla nasıl etkileşime girdiğine dair önemli bir tartışma yapılması gerektiğini ifade etti.
Makineler ile ilgili sanrıların ortaya çıktığı dönemi muhtemelen geride bıraktık ve bu sanrıların makinelerle birlikte ortaya çıktığı bir döneme adım atıyoruz.
King’s College London’da ders veren ortak yazar Tom Pollack, psikiyatrik bozuklukların “nadiren aniden belirdiğini”, ancak yapay zeka sohbet robotlarının kullanımının “tetikleyici bir faktör” olabileceğini aktardı.
Yapay zeka şirketlerini, ürünlerine daha fazla güvenlik önlemi eklemeye ve yapay zeka güvenlik ekiplerine psikiyatristleri dahil etmeye davet etti.
The Independent, bu konu hakkında OpenAI ile iletişime geçerek yorum talep etti. Şirket daha önce, “insanların yapay zekayı hayatlarında nasıl kullandığına dair güvenlik, uyum ve duyarlılık çıtasını yükseltmeye devam etmesi” gerektiğini belirtmişti.
OpenAI’nin yöneticisi Sam Altman, mayıs ayında katıldığı bir podcast’te, şirketinin savunmasız ChatGPT kullanıcıları için etkili güvenlik önlemleri almakta zorlandığını dile getirmişti.
Zihinsel sağlık açısından hassas durumda olan, psikotik krizin eşiğinde bulunan kullanıcılara uyarının nasıl ulaşacağını henüz netleştiremedik.
“Delusions by design? How everyday AIs might be fuelling psychosis (Tasarım kaynaklı sanrılar mı? Günlük yapay zekalar psikozu nasıl tetikliyor olabilir [ve bu konuda neler yapılabilir])” başlıklı makalenin ön baskısı PsyArXiv’de yayımlandı.
0 Comments