Yeni bir araştırma, kamuoyunun karşılaştığı içeriklerin denetiminde görev alan bazı büyük yapay zeka modellerinin nefret söylemi olarak değerlendirilen ifadeleri tutarsız bir şekilde sınıflandırdığını ortaya koydu.
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Pensilvanya Üniversitesi (UPenn) tarafından gerçekleştirilen bu çalışma, sosyal medya platformlarının içerik denetiminde kullandığı Open AI, Google ve DeepSeek gibi firmaların ayrımcı içerikleri farklı ölçütlerle tanımladığını gözler önüne serdi.
Araştırma ekibi, çevrimiçi ortamlarda neyin söylenip neyin söylenmeyeceğini belirleme yetkisi olan yedi yapay zeka denetim sistemini inceledi.
UPenn Annenberg İletişim Okulu’ndan Doçent Yphtach Lelkes, şu ifadeleri kullandı:
Araştırmamız, nefret söylemi konusunda bu tür kararları yönlendiren yapay zekanın son derece tutarsız olduğunu gösteriyor. Yani kuralların görünmeyip, hakemin bir makine olduğu yeni bir dijital sansür biçimiyle karşı karşıyayız.
Findings of the Association for Computational Linguistics isimli akademik dergide yayımlanan çalışmada, yaklaşık 125 farklı demografik grup için hem tarafsız hem de hakaret içeren 1,3 milyon ifade incelendi.
Modeller, bir ifade nefret söylemi olarak kabul edilip edilmeyeceği konusunda farklı değerlendirmelerde bulunuyordu. Araştırmacılar, bu tutarsızlıkların güveni sarsabileceği ve önyargı algıları yaratabileceği konusunda uyarıda bulundu.
Etnik köken, din veya cinsel yönelim gibi unsurlar temelinde önyargı içeren küfürlü veya tehdit içerikli söylemler nefret söylemi olarak adlandırılıyor.
Çalışmada yer alan, Annenberg doktora öğrencisi Neil Fasching şunları ifade etti:
Araştırma, içerik denetleme sistemlerinin aynı nefret söylemi içeren içerikleri değerlendirirken önemli tutarsızlıklar gösterdiğini; bazı sistemlerin söz konusu içeriği zararlı kabul ederken, bazılarının kabul edilebilir bulduğunu gösteriyor.
Fasching, en fazla tutarsızlığın sistemlerin gruplar hakkında yaptıkları değerlendirmelerde eğitim düzeyi, ekonomik sınıf ve kişisel çıkarlar temelinde oluştuğunu belirtti. Bu durumun “bazı toplulukları çevrimiçi zararlara karşı diğerlerinden daha savunmasız” bıraktığını da vurguladı.
Irk, cinsiyet ve cinsel yönelim gibi konular temelinde gruplara ilişkin ifadelerin değerlendirilmesinin daha benzer olduğuna dikkat çekildi.
Oxford Üniversitesi’nden teknoloji ve düzenleme profesörü Dr. Sandra Wachter, araştırmanın konunun karmaşıklığını ortaya koyduğunu ifade etti:
Bu dengeyi sağlamak zor; çünkü kabul edilebilir bir konuşmanın nasıl olması gerektiğine dair net ve somut standartlarımız yok.
İnsanlar standartlar konusunda uzlaşamıyorsa, bu modellerin farklı sonuçlar vermesi benim için şaşırtıcı değil, ancak bu durum zararı ortadan kaldırmıyor.
Üretken Yapay Zeka, insanların kendilerini bilgilendirmesi için günden güne daha popüler hale geldiği için, teknoloji şirketlerinin sunduğu içeriğin zararlı olmaması, doğru, çeşitli ve tarafsız olmasını sağlama yükümlülüğü olduğuna inanıyorum. Büyük teknoloji, büyük bir sorumluluğu da beraberinde getiriyor.
Analiz edilen yedi modelden bazıları içerik sınıflandırması için özel olarak tasarlanırken, diğerleri daha genel nitelikteydi. Bunlar arasında iki OpenAI, iki Mistral,
0 Comments