OpenAI, Çin merkezli bazı ChatGPT kullanıcılarının yapay zeka sohbet botunu “otoriter suiistimaller” için kullandığını bildirdi.
Şirketin yayımladığı son tehdit raporunda, ulusal güvenlik politikalarını ihlal ettikleri gerekçesiyle Çin’deki çeşitli devlet kurumlarıyla ilişkilendirilen bir grup hesabın engellendiği açıklandı.
Raporda, “Bu hesaplardan bazıları, sosyal medya konuşmalarını izlemek üzere tasarlanmış büyük ölçekli sistemler için modellerimizden iş teklifleri üretmesini istedi” şeklinde ifadeler yer alıyor.
Bu kullanımlar kurumsal gibi görünmese de, yapay zekanın otoriter suiistimallerinin geniş dünyasına dair nadir bir bakış sunuyor.
Yakın zamanda 500 milyar dolar değeri biçilen dünyanın önde gelen yapay zeka şirketi, bir grup Çince hesabın ChatGPT’yi Tayvan’ın yarı iletken sektörü, ABD akademisi ve Çin Komünist Partisi’ni hedef alan siber operasyonlarda kullandığını tespit etti.
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Bazı durumlarda tehdit aktörleri, bilgi teknolojisi sistemlerine sızmak amacıyla ChatGPT üzerinden kimlik avı kampanyaları yürüttü ve İngilizce resmi e-postalar yazdı.
ChatGPT, Çin’deki sıkı internet sansürü nedeniyle doğrudan kullanılamıyor. Ancak OpenAI, sanal özel ağlar (VPN’ler) aracılığıyla erişilebilen uygulamanın Çince sürümlerini sunuyor.
OpenAI’ın 37 sayfalık raporunda, “Çin devlet kurumlarıyla bağlantılı olduğu anlaşılan kişiler tarafından kullanılan ChatGPT hesaplarına müdahale etmemiz, bu otoriter ortamda yapay zeka kullanımının mevcut durumuna ışık tutuyor” ifadelerine yer verildi.
Raporun yazarları, Rusça ve Korece konuşan kullanıcılar tarafından gerçekleştirilen siber operasyonların da altını çiziyor. Bu kullanıcıların devlet kurumlarıyla ilişkili görünmedikleri, ancak bazıları devlet destekli suç örgütleriyle bağlantılı olabileceği belirtiliyor.
OpenAI, kamuya açık tehdit raporları yayımlamaya başladığı Şubat 2024’ten bu yana 40’tan fazla kötü amaçlı ağı bozduğunu iddia ediyor. Son raporda, en yeni yapay zeka modelleri için henüz keşfedilmemiş bir saldırı yeteneğinin olmadığı ifade ediliyor.
0 Comments