Google, daha önce sınırlı erişimde tuttuğu ve görünmez filigranları tarayan yapay zekâ tespit aracı SynthID dedektörünü genel kullanıma sundu.
Üç noktada haber
SynthID dedektörü görsel, MP4 video ile MP3, WAV ve FLAC ses formatlarındaki görünmez filigranları tarayabiliyor.
Sistem Google modellerinin yanı sıra OpenAI, NVIDIA ve Kakao tarafından işaretlenen içerikleri de denetleyebiliyor.
Google, 2023'ten bu yana 180 milyardan fazla görsel ve video ile 240 bin yıllık ses içeriğini teknolojiyle damgaladı.
Google, yapay zekâ modelleri tarafından üretilen içerikleri tespit etmeye yarayan SynthID dedektörünü dünya genelinde herkesin erişimine açtı. Daha önce yalnızca sınırlı sayıda gazeteci ve araştırmacı tarafından kullanılabilen araç, artık İngilizce dil arayüzü üzerinden kamuya açık şekilde hizmet veriyor. Sistem, dijital dosyalara yerleştirilen görünmez işaretleri tarayarak içeriğin ilgili yapay zekâ altyapısıyla damgalanıp damgalanmadığını inceliyor. Açıklanan verilere göre araç halihazırda günde bir milyondan fazla doğrulama talebi karşılıyor.
Dedektör görsel, video ve ses olmak üzere üç temel medya türünde analiz yapabiliyor. Kullanıcılar sisteme JPG, PNG, WEBP ve GIF uzantılı görsellerin yanı sıra MP4 formatındaki videoları yükleyebiliyor. Ses tarafında ise MP3, WAV ve FLAC formatındaki dosyalar incelenebiliyor. Dosya sisteme aktarıldığında algoritma, dosya piksellerinde ya da ses dalgalarında insan gözünün ve kulağının fark edemeyeceği dijital izin varlığını denetliyor. Bu kontrol yalnızca Google üretimi içeriklerle sınırlı kalmıyor; OpenAI, NVIDIA ve Kakao modelleriyle oluşturulup SynthID ile işaretlenmiş üretimler de doğrulama kapsamına giriyor.
Teknolojinin işleyişi genel bir yapay zekâ dedektörü gibi çalışmıyor ve önemli teknik sınırlar barındırıyor. Araç yalnızca SynthID teknolojisiyle damgalanmış içerikleri tespit edebildiği için farklı bir yazılımla üretilen ya da filigransız bırakılan yapay zekâ içeriklerini ayırt edemiyor. Bunun yanı sıra sistem, tamamen yapay zekâ tarafından üretilen bir içerik ile üzerinde yalnızca küçük yapay zekâ düzenlemeleri yapılmış bir çalışmayı birbirinden ayıramıyor. Bu durum, aracın her türlü sahte veya sentetik içeriği yakalayan evrensel bir güvenlik kalkanı olmadığını gösteriyor.
Google'ın ilk olarak 2023 yılında duyurduğu SynthID altyapısı kapsamında bugüne kadar 180 milyardan fazla görsel ve video görünmez filigranla işaretlendi. Şirket verilerine göre ayrıca toplamda 240 bin yıla denk gelen ses içeriği de bu sistemle damgalandı. Ekosistemin genişleme takviminde Apple'ın da yakında kendi servislerinde SynthID desteği sunması yer alıyor.
Neden önemli?Araç sentetik medyayı doğrulamaya yardımcı olurken yalnızca SynthID ile işaretlenmiş dosyaları tanıyabildiği için genel bir sahte içerik filtresi oluşturmuyor.
Cevabı beklenen sorular
- Apple'ın planlanan SynthID desteğini hangi işletim sistemi sürümünde ve ne zaman devreye alacağı henüz bilinmiyor.
- Dedektörün İngilizce dışındaki dillere ne zaman genişletileceği açıklanmadı.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
