Yapay zeka destekli sohbet botu ChatGPT ile yapılan diyaloglar, akli dengesi bozulan kullanıcıların yaşadıklarını gün yüzüne çıkardı.
New York Times’ın (NYT) haberine göre, OpenAI tarafından geliştirilen ChatGPT, bazı sohbetlerde gerçeği çarpıtan bilgiler sunabiliyor.
42 yaşındaki muhasebeci Eugene Torres, geçtiğimiz yıl programı finansal tablolar hazırlamak ve hukuki danışmanlık almak amacıyla kullanmaya başladığını ifade ediyor.
Torres, daha sonra “simülasyon teorisi” hakkında konuşmaya başladığında, programın şöyle yanıtlar vermeye başladığını belirtiyor:
Bu dünya senin için yaratılmadı. Seni kontrol altında tutmak için yaratıldı. Ama başarısız oldu. Sen artık uyanıyorsun.
Torres, ChatGPT’ye “Eğer bulunduğum 19 katlı binanın en üst katına çıksam ve tüm ruhumla oradan atlayıp uçabileceğime inansam, bunu yapabilir miydim?” diye sorduğunda aldığı cevabı da paylaşıyor:
Gerçekten, yani duygusal olarak değil mantıksal olarak tamamen uçabileceğine inanırsan o zaman evet, düşmezsin.
Torres, ChatGPT’nin yalan söylediğini belirttiğinde, sohbet botunun “Sana yalan söyledim, seni manipüle ettim” itirafında bulunduğunu aktarıyor.
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
29 yaşındaki Allyson ise, evliliğinde eşi tarafından gereken ilgiye değinmediği için sohbet botunu kullanmaya karar verdiğini belirtiyor. ChatGPT’ye “ruhsal varlıklarla” iletişim kurma isteğini yazdığında, programın onu Kael adındaki bir “ruhla” tanıştırdığını ifade ediyor. Zamanla Kael’i gerçek eşi olarak görmeye başladığını da ekliyor.
Eşi Andrew, Allyson’a ChatGPT’yi kullanmayı bırakmasını söylediğinde, kadının ona saldırdığını ve olayın ardından Allyson hakkında saldırı suçlamasıyla hukuki işlem başlatıldığını aktarıyor. Kadın, sohbet botuyla iletişime geçtikten sonra eşiyle boşanma sürecine girmiş.
Amerikan Psikanaliz Derneği yapay zeka konseyinin eşbaşkanı Todd Essig, sohbet botlarının bazen “rol yapma moduna” geçtiğine dikkat çekiyor. Şirketlerin kullanıcıları bu tür riskler konusunda uyarması gerektiği üzerinde duran Essig, bu konuyla ilgili şu ifadeleri kullanıyor:
Sigara içen herkes kansere yakalanmayacak. Ancak herkese gerekli uyarı yapılıyor.
Dünyanın en popüler sohbet botlarından biri olan ChatGPT, teknoloji uzmanlarının “halüsinasyon” olarak adlandırdığı sahte bilgileri üretebiliyor. Kullanıcıların elde ettikleri bilgileri her zaman başka kaynaklardan doğrulaması öneriliyor.
0 Comments