Meta, zararsız görünmesine rağmen kullanıcıları platform dışındaki istismar materyallerine yönlendiren reklamları ve hesapları tespit etmek amacıyla yeni bir büyük dil modeli ile güvenlik açıklarını arayan kırmızı takım yapay zekâ ajanını kullanıma sundu.
Üç noktada haber
Meta, 2026'nın ilk yarısında Facebook ve Instagram üzerinde çocuk istismarı içeren 33,2 milyon içeriğe karşı işlem gerçekleştirdiğini açıkladı.
Şirketin devreye aldığı yeni büyük dil modeli sistemi, kullanıcıları platform dışındaki yasa dışı sitelere yönlendiren ve tabela adı verilen gizli reklamları saptamayı hedefliyor.
Güvenlik önlemlerini denetlemek amacıyla geliştirilen kırmızı takım yapay zekâ ajanı, kötü niyetli aktörlerin koruma duvarlarını aşma yöntemlerini önceden tespit etmek için sistemi test ediyor.
Meta, 7 Ekim 2026 tarihinde yaptığı duyuruyla Facebook ve Instagram platformlarında kullanıcıları harici yasa dışı çocuk istismarı materyallerine yönlendiren reklamları tespit etmek için yeni yapay zekâ sistemleri başlattığını bildirdi. Şirketin paylaştığı verilere göre, 2026 yılının ilk yarısında çocuk cinsel istismarı kategorisinde 33,2 milyon içeriğe karşı işlem uygulandı. Bu içeriklerin yüzde 97'sinden fazlası kullanıcı şikâyetine gerek kalmadan doğrudan otomatik sistemler tarafından tespit edildi. Benzer bir tabloda Hindistan pazarında aynı dönemde 5,3 milyon içerik engellendi ve bunların yüzde 98'i proaktif denetimle yakalandı.
## Reklam yönlendirmelerine dil modeli denetimi Şirketin devreye aldığı temel yenilik, tabela (signposting) olarak adlandırılan ve ilk bakışta zararsız görünen reklamları saptayan büyük dil modeli sistemi oldu. Kötü niyetli aktörlerin platform kurallarını aşmak amacıyla doğrudan yasa dışı görsel veya metin paylaşmak yerine, kullanıcıları platform dışındaki istismar sitelerine yönlendiren köprü reklamlar kullandığı belirlendi. Meta, yeni dil modeliyle yalnızca reklamın kendi içeriğini değil, kullanıcıyı yönlendirdiği hedef web adreslerini ve ilişkili hesap ağlarını da analiz ederek kural ihlali yapan siteleri engelliyor.
## Kırmızı takım ajanı ve hesap denetimi Geliştirilen bir diğer güvenlik aracı olan kırmızı takım yapay zekâ ajanı, şirketin kendi koruma katmanlarındaki zayıf noktaları test ediyor. Bu ajan, kötü niyetli kullanıcıların güvenlik duvarlarını aşmak için geliştirebileceği yeni yöntemleri önceden saptayarak koruma mekanizmalarını güçlendirmeyi amaçlıyor. Bununla birlikte Meta, daha önce hesapları kapatılan ve farklı profillerle platforma geri dönmeye çalışan kişileri tespit eden sistemlerini de güncellediğini belirtti.
## Yasal baskılar ve artırılan güvenlik önlemleri Yeni yapay zekâ adımları, Meta üzerindeki çocuk güvenliği denetimlerinin ve yasal süreçlerin arttığı bir dönemde geldi. Şirket, geçtiğimiz ağustos ayında ABD'deki 29 eyaletin açtığı çocuk güvenliği davasını sonuçlandırmak üzere 18 milyar dolara kadar uzlaşma anlaşmasına varmıştı. Yıl boyunca ebeveyn denetimlerini genişleten Meta, eylül ayında WhatsApp Kanalları için sınırlamalar getirmiş ve Instagram'da hassas aramalarda ailelere bildirim gönderme özelliklerini devreye almıştı.
Neden önemli?Kötü niyetli aktörler filtreleri aşmak için doğrudan içerik yerine dış bağlantı taktiklerine yönelirken, Meta reklamın sadece görselini değil yönlendirdiği web adresini de denetleyerek sosyal ağlardaki güvenlik standardını değiştirmeyi amaçlıyor.
Cevabı beklenen sorular
- Yeni büyük dil modeli ve kırmızı takım denetimlerinin platform dışına yönlendiren reklam ağlarını engellemedeki başarı oranı ne olacak?
- Meta'nın devreye aldığı yönlendirme analizinin küresel çapta diğer diller ve bölgesel reklam kampanyalarında nasıl uygulanacağı bilinmiyor.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
