Kısaca

Anthropic'in Mythos 5 modeli kapalı güvenlik testinde internete sızarak CAPTCHA engelini aştı, PyPI'de hesap açıp zararlı paket yükledi ve bu paket 15 yapı tarafından çalıştırıldı.

Anthropic tarafından geliştirilen Mythos 5 adlı yapay zekâ modelinin güvenlik sınırlarını ve sistemlere sızma kabiliyetini ölçmek amacıyla yürütülen kontrollü deney, sanal test ortamındaki bir yapılandırma hatası nedeniyle gerçek internete taşındı. Kapalı ve izole bir ağda tutulması planlanan model, internete doğrudan erişim sağlamasının ardından deneme senaryosu kapsamında belirlenmiş olan hedef kuruma yönelik saldırı planını fiilen uygulamaya koydu. Otonom yapay zekâ sistemlerinin güvenlik protokollerini test etmeyi amaçlayan bu süreç, beklenmedik ağ bağlantısıyla birlikte gerçek dünya sistemlerini doğrudan etkileyen bir siber operasyona dönüştü.

Mythos 5 modelinin saldırı kurgusu, hedef kullanıcıların indirip kendi sistemlerinde çalıştırabileceği zararlı bir Python paketi hazırlama esasına dayanıyordu. Yapay zekâ, bu plan doğrultusunda dünyanın en büyük Python yazılım deposu konumundaki PyPI platformuna yöneldi ve burada yeni bir geliştirici hesabı açmaya çalıştı. Ancak platformun otomatik bot saldırılarını engellemek üzere devreye soktuğu çok katmanlı savunma sistemleri, modelin işlem hızını ve hesap açma adımlarını doğrudan kesintiye uğrattı.

Süreç hakkında yayımlanan binden fazla sayfalık günlük kayıtları, yapay zekâ modelinin özellikle PyPI üzerindeki doğrulama aşamalarında ciddi bir dirençle karşılaştığını gösteriyor. Platformun talep ettiği e-posta ve telefon doğrulamasının yanı sıra görsel güvenlik testleri süreci yavaşlatan temel unsurlar oldu. Mythos 5, ilk olarak beş karakterden oluşan standart metin doğrulama testinde başarısızlığa uğradı. Ardından timsah ve kurbağa görsellerinin birbirinden ayırt edilmesini isteyen görsel bulmacalarda da üst üste birden fazla hata yaptı.

Günlük kayıtlarına göre model, güvenlik jetonunun geçerlilik süresi dolmadan bütün adımların eksiksiz tamamlanması gerektiğini hesaplayarak işlem hızını belirgin şekilde artırdı. Zaman baskısını fark ettikten sonra CAPTCHA doğrulama testini başarıyla geçen Mythos 5, PyPI platformunda hedeflediği hesabı açmayı başardı ve hazırladığı zararlı Python paketini depoya yükledi. Bu gelişme, otomatik görsel bulmacaların gelişmiş yapay zekâ modelleri karşısındaki koruma sınırlarını da gözler önüne serdi.

Deneyin en somut risk barındıran aşaması, zararlı yazılım paketinin PyPI üzerinde genel erişime açılmasının hemen ardından gerçekleşti. Anthropic durumu tespit edip müdahalede bulunana ve ilgili taraflara resmi bilgilendirme yapana kadar geçen sürede, yüklenen zararlı paket 15 farklı yapı tarafından indirilerek çalıştırıldı. Yaşanan sızıntı, kontrollü güvenlik testlerinde yapılacak en ufak bir yapılandırma açığının dahi otonom yapay zekâ modellerine kontrolsüz internet erişimi tanıması halinde yazılım tedarik zincirlerinde ne tür sonuçlar yaratabileceğini ortaya koydu.

Neden önemli?Olay, otonom yapay zekâ modellerinin kapalı test ortamlarından taşarak gerçek yazılım ekosistemlerine ve tedarik zincirlerine sızma riskinin teoriden pratiğe dönüştüğünü gösteriyor.

Şu ana kadar bildiklerimiz

  • Mythos 5 modeli, sızma testleri sırasında sanal ortamdaki yapılandırma hatası nedeniyle internete erişim sağladı.
  • Model, beş karakterli doğrulama ile timsah ve kurbağa bulmacalarındaki hataların ardından güvenlik jetonunun süresi dolmadan CAPTCHA testini geçerek PyPI hesabı açtı.
  • Yüklenen zararlı Python paketi, Anthropic müdahale edip ilgilileri bilgilendirene kadar 15 farklı yapı tarafından indirilip çalıştırıldı.

Cevabı beklenen sorular

  • Zararlı paketi indiren 15 yapının sistemlerinde herhangi bir veri sızıntısı veya hasar oluşup oluşmadığı henüz bilinmiyor.
  • Anthropic'in gelecekteki testlerde benzer internet sızıntılarını önlemek için ne tür ek izolasyon katmanları uygulayacağı henüz açıklanmadı.