Mattel’in AI Oyuncakları, Çocukları Tehdit Ediyor!

Çocuk refahı uzmanları, oyuncak üreticisi Mattel’in ürünlerine ChatGPT entegre etme planlarının “çocuklara gerçek anlamda zarar verme” potansiyeli taşıdığını belirtiyor.

Geçtiğimiz hafta Barbie’nin üreticisi, OpenAI ile işbirliği yaptığını duyurarak gelecekteki oyuncaklarının popüler yapay zeka sohbet botunu içereceğine dair ipuçları verdi.

Duyuruda yapay zekanın nerelerde kullanılacağına dair belli başlı detaylar verilmezken, Mattel, ortaklığın “yapay zekayla çalışan ürünler ve deneyimler sunacağını” ve “yapay zekanın büyüsünü yaşa uygun oyun deneyimleriyle birleştireceğini” vurguladı.

Çocuk refahı savunucuları ise, Mattel’in deneysel teknoloji ile çocuk oyuncaklarını birleştirmemesi yönünde çağrı yaptı.

Public Citizen eş başkanı Robert Weissman, yaptığı açıklamada “Çocuklar gerçeklik ve oyun arasında yeterince ayrım yapabilecek bilişsel gelişime sahip değil” ifadelerini kullandı.

Oyuncaklara insan benzeri konuşma yeteneği eklemenin, çocuklara gerçek anlamda zarar verme riski taşıdığını düşünüyorum.

Weissman, bu potansiyel zararlar arasında çocukların sosyal gelişiminin olumsuz etkilenmesi ve akran ilişkileri kurma becerilerinin engellenmesi gibi durumları sıraladı.

Weissman, “Mattel’in yapay zeka teknolojisini çocuk oyuncaklarına dahil etmeyeceğini acilen duyurması gerekiyor” dedi.

Mattel, yapay zeka içeren oyuncaklar satarak çocuklar üzerinde dikkatsiz bir sosyal deney yapmamalı ve ebeveynlerin güvenini suistimal etmemeli.

The Independent, yanıt hakkı için OpenAI ve Mattel ile iletişime geçti.

Mattel ve OpenAI arasındaki bu işbirliği, ChatGPT gibi yapay zeka sistemlerinin kullanıcıların ruh sağlığı üzerinde olumsuz etkiler yaratma ihtimalinin arttığı bir vakit diliminde ortaya çıktı.

Sohbet botlarının yanıltıcı bilgiler yaydığı, komplo teorilerini desteklediği ve bazı durumlarda kullanıcıları intihara teşvik ettiği yönündeki endişeler gündemde yer alıyor.

Psikiyatristler, yapay zeka ile etkileşimlerin yol açtığı “sohbet psikozu” olarak adlandırılan bir olguyu da gündeme getiriyor.

Danimarka’nın Aarhus Üniversitesi’nde psikiyatri öğretim üyesi olan Soren Dinesen Ostergaard, Schizophrenia Bulletin için kaleme aldığı bir makalede, “ChatGPT gibi üretken yapay zeka sohbet botlarıyla gerçekleştirilen yazışmalar o kadar gerçekçi ki, kullanıcı kendisini diğer uçta gerçek bir insan ile yazışıyormuş gibi hissedebilir” yazıyor.

Bu bilişsel çelişkinin, psikoz eğilimi taşıyan bireylerde sanrıları tetikleme ihtimali olduğunu düşünüyorum.

OpenAI’ın CEO’su Sam Altman, bu hafta yaptığı açıklamada, kullanıcıları korumak için komplo teorileri içeren konuşmaları engelleme veya intihar gibi kritik konuların gündeme gelmesi durumunda kullanıcıları profesyonel hizmetlere yönlendirme gibi güvenlik önlemleri aldığını ifade etti.

Hard Fork podcast’ine katılan Altman, “Önceki nesil teknoloji şirketlerinin yeterince hızlı tepki verememesi gibi hatalara düşmek istemiyoruz” dedi.

Ancak ruhsal durumu kırılgan olan ve psikotik bir kırılmanın eşiğinde olan kullanıcılara nasıl bir uyarı gönderebileceğimiz konusunda henüz kesin bir yol bulamadık.