WhatsApp'ın yaklaşık 80 yardım sayfasının kaynak kodunda, Meta'nın destek amacıyla geliştirdiği yapay zekâ modellerine yönelik 100'e yakın gizli talimat bloğunun yer aldığı belirlendi.
Üç noktada haber
WhatsApp web sitesindeki yaklaşık 80 yardım ve SSS sayfasının kaynak kodunda 'HelpContentGalaxyLLMInclude' başlığı altında 100 kadar sistem talimatı yer aldı.
Gizli komutlar, yapay zekâ botuna hesap silme durumunda denetleyici kurumları önermemesini ve kullanıcı sorsa dahi GDPR gibi düzenlemeleri yorumlamamasını söylüyor.
WhatsApp sözcüsü Joshua Breckman, metinlerin bir yazılım hatası nedeniyle açıkta kaldığını, canlı sayfalardan kaldırıldığını ve amacın hukuki değil ürün desteği vermek olduğunu açıkladı.
Gizlilik ve veri yönetimi şirketi Redact tarafından yapılan incelemede, WhatsApp web sitesinde yer alan yaklaşık 80 yardım ve sıkça sorulan sorular sayfasının kaynak kodunda Meta'nın yapay zekâ modelleri için yazılmış gizli talimatlar tespit edildi. Sayfa kodları içine yerleştirilen ve "HelpContentGalaxyLLMInclude" başlığı altında toplanan 100'e yakın metin bloğunun, WhatsApp Destek birimiyle mesajlaşmayı seçen kullanıcılara yanıt veren büyük dil modellerini yönlendirmek üzere kurgulandığı belirlendi.
Açığa çıkan talimatlar, büyük teknoloji şirketlerinin yapay zekâ sistemlerine kullanıcıların hak arama süreçlerinde nasıl sınırlar çizdiğini somut biçimde gösteriyor. Örneğin hesabın nasıl silineceğini anlatan destek sayfasındaki gizli komutta modele, kullanıcılara herhangi bir Veri Koruma Kurumu, denetleyici merci veya gözetim makamıyla iletişime geçmesini önermeme talimatı verildiği görüldü. Gizli metinler, yapay zekânın kullanıcılara WhatsApp'ın resmi destek kanalları dışında bir yol tarif etmesini sınırlandırmayı hedefliyor.
Hukuki Yorum ve Veri Mevzuatına Yasak
Kaynak kodunda yer alan diğer yönlendirmeler ise kullanıcıların yasal süreç başlatmaktan söz ettiği durumlarda modelin takınacağı tutumu belirliyor. Talimat metninde, kullanıcının dava, mahkeme veya avukatlardan bahsetmesi durumunda WhatsApp Hizmet Şartları, Gizlilik İlkesi veya herhangi bir yasal belgeden alıntı yapılmaması ve bunların yorumlanmaması isteniyor. Ayrıca sohbet robotunun şirket adına herhangi bir hukuki savunma sunması, sorumluluk beyanında bulunması veya kullanıcı doğrudan sorsa dahi GDPR, LGPD ve CCPA gibi veri koruma düzenlemelerini yorumlaması açıkça yasaklanıyor.
Söz konusu kod bloklarının gündeme gelmesinin ardından açıklama yapan WhatsApp sözcüsü Joshua Breckman, metinlerin canlı sayfalardan kaldırıldığını ve durumun düzeltilen bir yazılım hatasından kaynaklandığını bildirdi. Breckman, ifadelerin doğrudan kullanıcılara yönelik olmadığını, yapay zekâ destekli müşteri hizmetlerinin doğru yanıt üretmesini sağlamak amacıyla sisteme girildiğini belirtti. Şirket, kullanıcılarına veri hakları konusunda şeffaf bilgi sağladıklarını savunarak ürün destek botlarının hukuki danışmanlık vermek yerine WhatsApp işlevlerine odaklanmasının amaçlandığını ifade etti. Kodların ne kadar süreyle açıkta kaldığı ve harici botlarca alınıp alınmadığı ise henüz netleşmedi.
Neden önemli?Açığa çıkan sistem komutları, şirketlerin yapay zekâ botlarını kullanıcı hakları, veri koruma kurumları ve yasal sorumluluk iddialarından uzak tutmak için hangi sınırları çizdiğini doğrudan belgeliyor.
Cevabı beklenen sorular
- Gizli komut bloklarının WhatsApp sayfalarında ne kadar süre açık kaldığı ve harici yapay zekâ sistemleri tarafından taranıp taranmadığı henüz açıklanmadı.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
