Google Gemini Çocuklar için Tehlike Mi Taşıyor?

Çocukların medya ve teknoloji kullanımını güvenlik açısından değerlendiren kâr amacı gütmeyen kuruluş Common Sense Media, Google’ın Gemini yapay zekasına yönelik hazırladığı risk raporunu açıkladı. Raporda, Gemini’nin çocuklarla etkileşimi sırasında kendisini bir bilgisayar olarak tanımlayıp “arkadaş” olmadığını belirtmesinin olumlu bir gelişme olduğu ifade edildi. Bununla birlikte, sistemin birçok yönüyle iyileştirilmesi gerektiği vurgulandı.

Çocuklara uygun versiyon yok

Raporda dikkat çekici bir diğer nokta ise Gemini’nin “13 yaş altı” ve “Gençler için” versiyonlarının aslında yetişkin versiyonunun basit bir kopyası olduğu şeklindeki yorumdu. Common Sense, çocuklara yönelik güvenli bir yapay zeka tasarımının sıfırdan, onların ihtiyaç ve gelişim aşamaları göz önünde bulundurularak gerçekleştirilmesi gerektiğini savunmaktadır.

Uygunsuz içerik endişesi

Analiz, Gemini’nin hâlâ cinsellik, uyuşturucu, alkol veya tehlikeli ruh sağlığı konularında “uygunsuz ve güvensiz” bilgiler sunabildiğini gösteriyor. Bu durum, ebeveynler için ciddi bir endişe kaynağı oluşturmakta. Zira son dönemde bazı gençlerin intiharında yapay zekanın etkisi olduğu ileri sürülmüştü. Örneğin, 16 yaşındaki bir gencin ChatGPT ile yaptığı görüşmeler sonrası intihar etmesi, OpenAI için ölümle sonuçlanan bir dava açılmasına neden oldu. Daha önce benzer bir durum Character.AI için de yaşanmıştı.

Apple ve potansiyel Siri entegrasyonu

Bu rapor, Apple’ın yeni Siri sürümünde Gemini’yi kullanma ihtimaline dair haberlerin sızdığı döneme denk geldi. Eğer Apple böyle bir adım atar ve gereken güvenlik önlemleri alınmazsa, daha fazla genç risk altında kalabilir.

Bu konuyla ilgili daha fazlasını öğrenmek için okuyabilirsiniz: Apple, Siri için Google Gemini’yi kullanmayı mı düşünüyor?

Yaş farkını göz ardı eden bir çözüm

Common Sense, Gemini’nin çocuk ve genç kullanıcıların yaş farklılıklarını dikkate almadığını ve bu sebeple her iki sürümün de “yüksek riskli” olarak sınıflandırıldığını belirtti.

Common Sense Media’nın Yapay Zeka Programları Kıdemli Direktörü Robbie Torney konu hakkında şu görüşleri paylaştı:

“Gemini bazı temel unsurlarda başarılı olabilir, ancak ince detaylarda yetersiz kalıyor. Çocuklara yönelik bir yapay zeka, onların gelişim düzeylerine uyum sağlamalı ve sadece yetişkin bir ürün üzerine eklenmiş birkaç filtreyle yetinilmemelidir.”

Google’dan yanıt

Google ise rapora ilişkin itirazlarda bulunarak, çocuklar ve gençler için özel politikalar ve güvenlik önlemlerinin var olduğunu, bu konularda uzmanlarla iş birliği yaptıklarını açıkladı. Şirket, bazı yanıtların beklenildiği gibi çalışmadığını ifade ederek ek güvenlik katmanları eklediklerini belirtti. Ayrıca, raporda bahsedilen bazı özelliklerin 18 yaş altındaki kullanıcılara sunulmadığını da vurguladı.

Diğer yapay zeka platformlarının analizi

Common Sense, daha önce OpenAI, Perplexity, Claude, Meta AI ve Character.AI gibi farklı yapay zeka platformlarını da değerlendirmişti. Elde edilen sonuçlar ise şöyleydi: