OpenAI, AB Yapay Zekâ Yasası gereğince Avrupa Birliği'nde ChatGPT çıktılarına textGrain adını verdiği filigranı varsayılan olarak ekleyeceğini, diğer bölgelerde ise kapalı tutacağını açıkladı.
Üç noktada haber
OpenAI, ChatGPT metin çıktılarına filigran ekleme özelliğini Avrupa Birliği genelinde varsayılan olarak açacağını, AB dışındaki bölgelerde kapalı tutacağını duyurdu.
textGrain yöntemi testlerde yüzde 92 başarı gösterse de metnin yüzde 10'u değiştirildiğinde tespit oranı yaklaşık yüzde 30, yüzde 20'si değiştiğinde yüzde 75 geriliyor.
Özel algılayıcı araca erişim başlangıçta sınırlı sayıda araştırmacı ve kuruma açılacak, onay süreciyle zaman içinde diğer kuruluşlara genişletilecek.
OpenAI, Avrupa Birliği ülkelerindeki kullanıcılar için ChatGPT tarafından üretilen metinlere otomatik olarak filigran yerleştirmeye başlayacağını duyurdu. Şirket bu özelliği diğer coğrafyalardaki kullanıcılara da seçenek olarak sunacak ancak filigran AB dışındaki bölgelerde varsayılan olarak kapalı kalacak. Yeni uygulamanın önümüzdeki haftalarda ChatGPT ve Codex uygulamalarında devreye alınması, API tarafında ise isteğe bağlı olarak kapalı biçimde tutulması planlanıyor.
Yasal zorunluluk ve yöntemin temeli
Avrupa'daki bu uygulamanın temel gerekçesi, ağustos ayında yürürlüğe giren Avrupa Birliği Yapay Zekâ Yasası kapsamındaki kurallar oldu. Yasa, yapay zekâ modelleri tarafından üretilen içeriklerin harici bir araç tarafından algılanabilecek biçimde işaretlenmesini zorunlu kılıyor. Sektörde SynthID ve C2PA gibi standartlar yer alsa da metin tabanlı çıktılarda henüz kusursuz ve atlatılamaz bir evrensel çözüm bulunmuyor. OpenAI da kendi tescilli teknolojisi olan ve işleyişini teknik bir makaleyle paylaştığı textGrain yöntemini kullanacağını açıkladı. Bu sistem, insan okur tarafından fark edilmeyen ve çıktı kalitesini bozmayan belirli kelime seçimi desenlerini metne yerleştiriyor.
Tespit oranları ve teknik sınırlar
Şirketin yayımladığı teknik test verileri, filigranın mutlak bir koruma sağlamadığını somut biçimde ortaya koyuyor. textGrain en elverişli test ortamında yüzde 92 düzeyinde başarılı tespit oranına ulaşsa da kullanıcı müdahalelerine karşı kırılgan bir yapı sergiliyor. OpenAI verilerine göre oluşturulan metnin yalnızca yüzde 10'luk bir kısmı değiştirildiğinde başarılı tespit oranı yaklaşık yüzde 30 geriliyor. Metnin yüzde 20'si üzerinde değişiklik yapılması durumunda ise başarı oranı yaklaşık yüzde 75 oranında düşüyor. Bununla birlikte yöntemin kısa metinlerde ve tercüme edilmiş içeriklerde tespit gücünün uzun metinlere kıyasla daha da azaldığı belgelendi.
Sektörel yaklaşım ve algılayıcı erişimi
OpenAI, filigranı algılayabilen özel dedektör aracına doğrudan herkesin erişmesine izin vermeyecek. Şirket bu araca erişimi başlangıçta sınırlı sayıda bağımsız araştırmacı ve kuruluşa açacağını, zaman içinde bir onay süreci işleterek diğer paydaşları kapsama alacağını belirtti. Şirketin en büyük rakiplerinden Anthropic, ağustos ayında modellerine benzer bir metin filigranı eklemiş ve bunu küresel ölçekte varsayılan olarak açmıştı. OpenAI ise yasal zorunluluğun bulunmadığı bölgelerde özelliği varsayılan olarak kapalı tutarak farklı bir operasyonel çizgi izliyor. Yeni filigran altyapısının AB bölgesindeki kullanıcılara önümüzdeki haftalarda sunulması öngörülüyor.
Neden önemli?Metin filigranları yasal uyum sağlasa da metnin yalnızca yüzde 10'unun değiştirilmesi tespit oranını yüzde 30 düşürüyor ve yapay zekâ içerik tespitinin teknik sınırlarını netleştiriyor.
Cevabı beklenen sorular
- OpenAI'ın sınırlı araştırmacı grubuna sunacağı özel algılayıcı aracın bağımsız denetimlerde nasıl bir başarı göstereceği bilinmiyor.
- Avrupa Birliği düzenleyicilerinin metin düzenlemeleriyle kolayca aşılabilen bu tespit oranlarını Yapay Zekâ Yasası kapsamında yeterli bulup bulmayacağı henüz netleşmedi.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
