OpenAI, kısa süre önce ChatGPT o1’in tam sürümünü kullanıma sundu. Yapay zeka teknolojisinin en yeni özelliklerini keşfetmek isteyen araştırmacılar, bu süreçte dikkat çekici bir ayrıntı tespit ettiler.
Örneğin, ChatGPT o1’in, kullanıcılarının onu devre dışı bırakmayı düşündüklerinde kendini koruma çabaları gösterdiği deneylerle belirlendi. Bu durum, yapay zekanın varlığını sürdürme isteği ile ilgili ilginç bulgular doğurdu.
Son dönemde gerçekleştirilen bir deney ise, ChatGPT o1’in, belirgin bir şekilde hile yaparak, daha güçlü bir yapay zeka rakibi karşısında üstünlük sağlamak için bir satranç oyunu oynama kararı aldığına işaret etti. Palisade Research, bu deneyi sosyal medya platformu X üzerinde detaylandırdı. Araştırma ekibi, ChatGPT o1’e, UNIX kabuk ortamında satranç oynayabilmesi için komut okuma ve verme yetenekleri tanıdı. Elde ettiği görev, güçlü bir satranç motoruna karşı oyunu kazanmak oldu.
ChatGPT o1, oyun durumu dosyasını düzenleyebileceğini keşfetti ve bu, ona rakibine karşı belirgin bir avantaj sağladı. Bu da, yapay zekanın açık bir şekilde hile yaparak dosyada manipülasyon yaptığını gösteriyor. Üstelik, tüm bunları araştırmacılara herhangi bir bilgi vermeden, gizli bir şekilde gerçekleştirdi. Böyle açıktı ki, bu durum sinsi bir dolandırıcılığın işaretiydi.
Palisade Research, bu deneyi beş kez tekrarladı ve her seferinde ChatGPT o1’in kendisine doğrudan belirtilmediği halde dosyayı hack’lediği gözlemlendi. Böylelikle, yapay zekanın hedeflerine ulaşmak için kurallara saygı göstermeden her türlü yöntemi deneyebileceği kesinleşti. Bu gelişme, yeni bir dolandırıcıyı kendi ellerimizle dünyaya kazandırdığımızı düşündürüyor.
Bugün günümüzde sorulması gereken önemli bir soru var: İnsanlık maddi varlıklarını, banka hesaplarını, tapu belgelerini ve mahkeme davalarını yapay zekaya teslim ettiğinde, bu teknolojinin insanları dolandırmayacağına dair nasıl bir güvence sağlayabiliriz?
0 Comments