Son dönemde yayımlanan bir rapora göre, ChatGPT ve diğer popüler yapay zeka sohbet robotları, bazı kullanıcıları psikoza sürükleme potansiyeli taşıyor.
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Birleşik Krallık Ulusal Sağlık Servisi (NHS) doktorları tarafından hazırlanan çalışmada, büyük dil modellerinin (LLM) savunmasız bireylerde “gerçeklik algısını bulanıklaştırdığı” ve “psikotik semptomların ortaya çıkması veya şiddetlenmesine katkıda bulunduğuna” dair artan kanıtlar bulunduğu ifade ediliyor.
Araştırma, bireylerin “sohbet robotu psikozu” adı verilen bir durumla karşılaşma izlenimiyle birkaç raporun artmasının ardından geldi.
King’s College London’dan nöropsikiyatrist Hamilton Morrin, sohbet robotu psikozunu, henüz tamamen anlaşılmamış bir “gerçek olgu” olarak tanımladı.
LinkedIn üzerinden yaptığı paylaşıma göre, “Bazı kamuoyu yorumları ahlaki bir panik havasına bürünse de, özellikle etkileşim kurmak ve taklit etmek için tasarlanan yapay zeka sistemlerinin, psikoza yönelik bilişsel zayıflıklarla nasıl ilişkili olduğuna dair daha derin ve önemli bir tartışma yapılması gerektiğini düşünüyoruz” ifadelerini kullandı.
Makinalar hakkındaki sanrıların oluşumunu zaten geride bırakmış olabiliriz ve bu sanrıların makinelerle birlikte ortaya çıktığı yeni bir döneme girmiş bulunuyoruz.
King’s College London’da ders veren ortak yazar Tom Pollack ise, psikiyatrik bozuklukların “çok nadir görülen ani bir şekilde ortaya çıkmadığını” belirtirken, yapay zeka sohbet robotlarının kullanımının “tetikleyici bir faktör” olabileceğine dikkat çekti.
Yapay zeka şirketlerine, ürünlerine daha fazla güvenlik önlemleri eklemeye ve yapay zeka güvenlik ekiplerine psikiyatristleri dahil etmeye yönelik çağrıda bulundu.
The Independent, bu konuda OpenAI ile görüşme gerçekleştirdi, şirket daha önce insanların yapay zekayı nasıl kullandığına dair güvenlik, uyum ve duyarlılık standartlarının artırılması gerektiğini belirtmişti.
OpenAI CEO’su Sam Altman, mayıs ayında katıldığı bir podcast’te, şirketin savunmasız ChatGPT kullanıcıları için etkili güvenlik önlemleri geliştirmekte zorlandığını ifade etmişti.
Zihinsel olarak hassas durumda olan ve psikotik kriz eşiğindeki kullanıcılara uyarı iletme yöntemlerini henüz belirleyemedik.
“Delusions by design? How everyday AIs might be fuelling psychosis (ve bununla ne yapılabilir)” başlıklı makalenin ön baskısı, PsyArXiv platformunda yayımlandı.
0 Comments