Deepfake Videoları Gerçeği Yansıtmıyor!

Deepfake videoların gelişmiş tespit yöntemlerine rağmen, bu teknolojinin her geçen gün daha da gerçekçi hale geldiği belirlendi.

Bir bireyin yüzü veya vücudunun dijital olarak modifiye edilmesiyle oluşturulan deepfake videolar, tayin edilemeyen bir tehdit unsuru oluşturmaya devam ediyor.

Bu videolar, gerçek bir bireyin görüntüsünün yapay zeka kullanılarak dönüştürülmesi ile meydana geliyor. Bahsi geçen teknoloji, kullanıcıların yüzlerini eğlenceli bir şekilde kediye veya yaşlı birine dönüştüren uygulamalar gibi masum amaçlar için de kullanılabiliyor.

Fakat, insanların cinsel içerikli videolarını oluşturmak veya masum insanlara iftira atma gibi kötüye kullanım olanakları, bu tür videoların tehlikesini artırıyor.

Sahte videoların gerçek olup olmadığını tespit etmek için kullanılan yöntemlerden biri, kalp atışlarını izlemek. Uzaktan fotopletismografi (rPPP) adı verilen bu araç, derideki ışık değişimlerini tespit ederek nabzı ölçmektedir. Pulse oksimetre ile benzer bir prensiple çalışan rPPP, çevrimiçi sağlık hizmetleri yanında deepfake videoların tespiti için de kullanılmakta.

Ancak, Frontiers in Imaging adlı hakemli dergide yayımlanan çalışmaya göre, deepfake görüntüler artık gerçeğe yakın kalp atışları gösterebiliyor.

Bilim insanları, videoların kalp atışını otomatik olarak ölçüp analiz eden bir deepfake dedektörü geliştirmekle işe başladı. Daha sonra rPPP tabanlı aracın verilerini EKG kayıtları ile karşılaştırarak hassasiyetini değerlendirdiler. Aracın performansı oldukça başarılıydı ve EKG ile çelişki yalnızca dakikada iki-üç atım kadar oldu.

Deepfake videolar üzerinde test yapıldığında ise rPPP, videoda kalp atışının eklenmemiş olmasına rağmen son derece gerçekçi bir algılama gerçekleştirdi. Bilim insanları, kalp atışlarının videoya bilinçli olarak eklenebileceği gibi, kullanılan kaynak videodan kendiliğinden geçebileceğine dair görüş bildirmektedirler.

Almanya’daki Humboldt Üniversitesi’nden çalışmanın ortak yazarı Peter Eisert, “Kaynak video gerçek bir kişiye aitse, bu durum artık deepfake videoya aktarılabiliyor” ifadesinde bulundu.

Sanırım tüm deepfake dedektörlerinin kaderi bu; deepfake’ler gittikçe daha iyi hale geliyor ve iki yıl önce etkin olan bir dedektör, bugün tamamen başarısız olmaya başlıyor.

Araştırmacılar yine de sahte videoları tespit etmek için alternatif yöntemlerin var olduğunu belirtmektedir. Örneğin, yalnızca nabız hızını ölçmek yerine, yüz bölgesindeki kan akışını detaylı biçimde takip eden dedektörler geliştirilmesi önerilmektedir.

Eisert, “Kalp atarken kan, damarlardan geçerek yüze akıyor ve daha sonra tüm yüz bölgesine dağılıyor. Bu harekette gerçek görüntülerde tespit edebileceğimiz küçük bir gecikme var” açıklamasında bulundu.

Buna ek olarak, bilim insanlarına göre nihai çözüm, deepfake dedektörlerinden ziyade, görüntülerin manipüle edilip edilmediğini belirlemeye yarayan dijital işaretlere odaklanmakta yatıyor:

Bir şeyin sahte olup olmadığını tespit etmek yerine, bir şeyin değiştirilmediğini kanıtlayan teknolojiye daha fazla odaklanmadığımız sürece, deepfake’lerin tespitini zorlaştıracak kadar iyi olacağını düşünüyorum.