Meta'nın Yapay Zekâ "Dedektörü" Basit Bir Kırpma İşlemine Yenildi
Meta'nın, yapay zekâ tarafından oluşturulan görselleri tespit etmek amacıyla bu hafta kullanıma sunduğu yeni araç, ilk testlerinde ciddi bir zafiyet gösterdi. Reuters tarafından gerçekleştirilen bir test, sistemin basit görsel düzenlemeler karşısında güvenilirliğini büyük ölçüde yitirebildiğini ortaya koydu.
Test Sonuçları: %55 Başarısızlık
Meta'nın Muse Image modeliyle üretilen insanlar, hayvanlar ve manzaralardan oluşan 40 farklı görsel, "test denekleri" olarak kullanıldı:
Orijinal Haliyle Başarı: Görseller üzerinde hiçbir değişiklik yapılmadan sisteme yüklendiğinde, araç her bir görseli "yapay zekâ üretimi" olarak doğru şekilde tanımladı.
Kırpma İşlemiyle Zafiyet: Ancak görsellerin kenarlarından üçte bir ile yarı oranında kırpılma yapıldığında sistemin performansı düştü. Araç, düzenlenen 40 görselden 22'sini tanıyamadı; bu da sistemin kırpılmış görsellerin yarısından fazlasını (%55) kaçırdığı anlamına geliyor.
"Content Seal" (İçerik Mührü) Nedir?
Meta'nın yeni aracı, görselin içine gömülen ve "Content Seal" adı verilen görünmez filigranları takip ederek çalışıyor. Şirket, bu dijital işaretin kırpma, yeniden boyutlandırma veya ekran görüntüsü alma gibi durumlarda dahi korunacağını vadetmişti. Ancak testler, görsel kırpıldığında bu işarete dair sinyallerin zayıfladığını veya tamamen kaybolduğunu kanıtladı.
Meta: "Araç Henüz Geliştirme Aşamasında"
Gelen tepkiler üzerine bir açıklama yapan Meta, tespit aracının şu an için "ön izleme" aşamasında olduğunu vurguladı. Şirket yetkilileri, Content Seal teknolojisinin dayanıklı bir yapıda tasarlandığını, ancak görüntü üzerindeki güçlü müdahalelerin filigran sinyalini zayıflatabileceğini kabul etti.
Yanlış Bilgiyle Mücadelede Yeni Bir Sınav
Yapay zekâ destekli görsellerin gerçeğinden ayırt edilemez hale gelmesi, özellikle seçim süreçleri, doğal afetler veya savaş gibi hassas dönemlerde "dezenformasyonla mücadeleyi" kritik hale getiriyor. Uzmanlar, Meta'nın yaşadığı bu durumun aslında sektör genelindeki bir sorunu yansıttığına dikkat çekiyor:
Bugün itibarıyla, bir görseli her koşulda (sıkıştırma, bulanıklaştırma veya kırpma) güvenilir şekilde tanıyan tek bir "mükemmel" tespit aracı bulunmuyor.
Görünmez filigranlar yararlı bir adım olsa da, uzmanlar bunların tek başına kesin bir çözüm sunmadığını ve daha kapsamlı, çok katmanlı doğrulama sistemlerine ihtiyaç duyulduğunu belirtiyor.
Meta'nın bu performansı, teknoloji şirketlerinin yapay zekâ ile üretilen sahte içerikleri engelleme yolunda kat etmesi gereken daha çok mesafe olduğunu bir kez daha hatırlattı.
Kaynak: Dünya Gazetesi
