Yapay Zeka İçerik Denetiminde Tutarsızlıklar Tespit Edildi!


0

Yeni bir araştırma, kamuoyunun karşılaştığı içeriklerin denetiminde görev alan bazı büyük yapay zeka modellerinin nefret söylemi olarak değerlendirilen ifadeleri tutarsız bir şekilde sınıflandırdığını ortaya koydu.

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Pensilvanya Üniversitesi (UPenn) tarafından gerçekleştirilen bu çalışma, sosyal medya platformlarının içerik denetiminde kullandığı Open AI, Google ve DeepSeek gibi firmaların ayrımcı içerikleri farklı ölçütlerle tanımladığını gözler önüne serdi.

Araştırma ekibi, çevrimiçi ortamlarda neyin söylenip neyin söylenmeyeceğini belirleme yetkisi olan yedi yapay zeka denetim sistemini inceledi.

UPenn Annenberg İletişim Okulu’ndan Doçent Yphtach Lelkes, şu ifadeleri kullandı:

Araştırmamız, nefret söylemi konusunda bu tür kararları yönlendiren yapay zekanın son derece tutarsız olduğunu gösteriyor. Yani kuralların görünmeyip, hakemin bir makine olduğu yeni bir dijital sansür biçimiyle karşı karşıyayız.

Findings of the Association for Computational Linguistics isimli akademik dergide yayımlanan çalışmada, yaklaşık 125 farklı demografik grup için hem tarafsız hem de hakaret içeren 1,3 milyon ifade incelendi.

Modeller, bir ifade nefret söylemi olarak kabul edilip edilmeyeceği konusunda farklı değerlendirmelerde bulunuyordu. Araştırmacılar, bu tutarsızlıkların güveni sarsabileceği ve önyargı algıları yaratabileceği konusunda uyarıda bulundu.

Etnik köken, din veya cinsel yönelim gibi unsurlar temelinde önyargı içeren küfürlü veya tehdit içerikli söylemler nefret söylemi olarak adlandırılıyor.

Çalışmada yer alan, Annenberg doktora öğrencisi Neil Fasching şunları ifade etti:

Araştırma, içerik denetleme sistemlerinin aynı nefret söylemi içeren içerikleri değerlendirirken önemli tutarsızlıklar gösterdiğini; bazı sistemlerin söz konusu içeriği zararlı kabul ederken, bazılarının kabul edilebilir bulduğunu gösteriyor.

Fasching, en fazla tutarsızlığın sistemlerin gruplar hakkında yaptıkları değerlendirmelerde eğitim düzeyi, ekonomik sınıf ve kişisel çıkarlar temelinde oluştuğunu belirtti. Bu durumun “bazı toplulukları çevrimiçi zararlara karşı diğerlerinden daha savunmasız” bıraktığını da vurguladı.

Irk, cinsiyet ve cinsel yönelim gibi konular temelinde gruplara ilişkin ifadelerin değerlendirilmesinin daha benzer olduğuna dikkat çekildi.

Oxford Üniversitesi’nden teknoloji ve düzenleme profesörü Dr. Sandra Wachter, araştırmanın konunun karmaşıklığını ortaya koyduğunu ifade etti:

Bu dengeyi sağlamak zor; çünkü kabul edilebilir bir konuşmanın nasıl olması gerektiğine dair net ve somut standartlarımız yok.

İnsanlar standartlar konusunda uzlaşamıyorsa, bu modellerin farklı sonuçlar vermesi benim için şaşırtıcı değil, ancak bu durum zararı ortadan kaldırmıyor.

Üretken Yapay Zeka, insanların kendilerini bilgilendirmesi için günden güne daha popüler hale geldiği için, teknoloji şirketlerinin sunduğu içeriğin zararlı olmaması, doğru, çeşitli ve tarafsız olmasını sağlama yükümlülüğü olduğuna inanıyorum. Büyük teknoloji, büyük bir sorumluluğu da beraberinde getiriyor.

Analiz edilen yedi modelden bazıları içerik sınıflandırması için özel olarak tasarlanırken, diğerleri daha genel nitelikteydi. Bunlar arasında iki OpenAI, iki Mistral,


Like it? Share with your friends!

0

What's Your Reaction?

hate hate
0
hate
confused confused
0
confused
fail fail
0
fail
Eğlenceli Eğlenceli
0
Eğlenceli
geeky geeky
0
geeky
love love
0
love
lol lol
0
lol
omg omg
0
omg
win win
0
win
hooptr-admn

0 Comments

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Choose A Format
Personality quiz
Series of questions that intends to reveal something about the personality
Trivia quiz
Series of questions with right and wrong answers that intends to check knowledge
Poll
Voting to make decisions or determine opinions
Story
Formatted Text with Embeds and Visuals
List
The Classic Internet Listicles
Countdown
The Classic Internet Countdowns
Open List
Submit your own item and vote up for the best submission
Ranked List
Upvote or downvote to decide the best list item
Meme
Upload your own images to make custom memes
Video
Youtube and Vimeo Embeds
Audio
Soundcloud or Mixcloud Embeds
Image
Photo or GIF
Gif
GIF format