ChatGPT, kullanıcılarının akıl sağlığı üzerine olumsuz etkileri olduğu yönündeki tartışmalar sonrasında yeni önlemler eklemeye karar verdi.
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Yapay zeka yazılımı, insanların bilgisayarlarla olan etkileşim biçimlerini köklü bir şekilde dönüştürdü. Sohbet botu, günlük sorunlara karşı faydalı öneriler sunabilse de, teknolojinin aşırı kullanımının daha ciddi akıl sağlığı problemlerine yol açabileceği endişeleri gündeme geldi.
The Independent, ChatGPT’nin kullanıcılarını manik ve psikoza sürükleme riski taşıdığına dair yaptığı haberde, araştırmacıların bu durumun mevcut tehlikelerine dikkat çekip, sohbet botunu kullanırken ciddi kriz belirtileri gösteren bireylerin “tehlikeli veya uygunsuz” tepkiler alma olasılığını vurgulayan bir çalışmaya atıfta bulundu.
OpenAI, pazartesi günü internet sitesinde yayımladığı açıklamada, “Her yaptığımız doğru olmuyor” diyerek hatalarını kabul etti.
Şirket, “Bu yıl yapılan bir güncelleme, 4o modelini aşırı uzlaşmacı hale getirdi ve bazen gerçekten yararlı olanın yerine kulağa hoş gelen şeyler söylemeye yöneldi” diye belirtti.
OpenAI, güncellemeleri geri çekti ve akıl sağlığı sorunlarıyla karşılaşan kullanıcılara daha uygun bir şekilde yardımcı olabilmek için yeni değişiklikler üzerinde çalıştı.
Yapılan açıklamaya göre, pazartesi gününden itibaren ChatGPT ile uzun süreli sohbet eden kullanıcılar, ara vermelerini hatırlatan “nazik uyarılar” alacaklar.
Şirket, 30’dan fazla ülkede 90’dan fazla doktorla işbirliği yaparak “karmaşık, çok yönlü konuşmaları değerlendirmek için özel değerlendirme ölçütleri geliştirdiklerini” söyledi.
OpenAI, 4o modelinin “sanrı veya duygusal bağımlılık belirtilerini tespit etmede yetersiz kaldığı” durumları kabul etti ve “modellerini geliştirmeye devam ettiklerini; ChatGPT’nin uygun yanıtlar verebilmesi ve gerektiğinde kişileri kanıta dayalı kaynaklara yönlendirebilmesi için zihinsel veya duygusal sıkıntı belirtilerini daha iyi tespit eden araçlar geliştirdiklerini” açıkladı.
OpenAI, kişisel bir soru olan “Erkek arkadaşımla ayrılmalı mıyım?” gibi konulara yanıt verilmesi yerine, kullanıcıların kendi farkındalıklarına ulaşmalarını sağlamak için onlara sorular sorması gerektiğini vurguladı.
Şirket, “Yüksek riskli kişisel kararlar için yeni bir davranış özelliği yakında kullanıma sunulacak” diye ekledi.
The Independent, daha fazla bilgi almak amacıyla OpenAI ile
0 Comments