Sam Altman, Stanford İşletme Okulu öğrencilerine yaptığı açıklamada, otonom yapay zekâ ajanlarının hızla gelişerek mevcut geleneksel siber güvenlik savunmalarını yetersiz bırakacağını belirtti.
Üç noktada haber
Anthropic tarafından Project Glasswing kapsamında geliştirilen Mythos modelinin 30 günden kısa sürede 10 bin kritik güvenlik açığı tespit ettiği belirtildi.
Altman, siber güvenlik tehditlerinin liderler, ülkeler ve bireyler düzeyinde henüz yeterince ciddiye alınmadığını ifade etti.
Aşırı güç yoğunlaşmasını önlemek amacıyla modelleri eğitenlere bağlayıcı güvenlik standardı getirecek Uluslararası Atom Enerjisi Ajansı benzeri bir denetim mekanizması tartışılıyor.
OpenAI yöneticisi Sam Altman, Stanford İşletme Okulu öğrencileriyle gerçekleştirdiği toplantıda, otonom yapay zekâ ajanlarının dijital güvenlik dünyasında yaratacağı tehditlerin mevcut koruma kalkanlarını hızla aşabileceğini dile getirdi. Güvenlik mekanizmalarını atlatan kontrol dışı ajanların sergilediği hız ve saldırı potansiyelinin henüz yolun başında olunduğunu gösterdiğini savunan Altman, mevcut siber tehditlerin gelecekteki riskler karşısında önemsiz kalacağını belirtti. Karşı karşıya kalınan tehdidin büyüklüğünü tarif edecek yeterince çarpıcı bir tanım bulmakta zorlandığını söyleyen yönetici, kurum yöneticilerinin, hükümetlerin ve bireylerin tehlikeyi henüz yeterince ciddiye almadığını ifade etti.
Yazılım açıklarını tarama hızı savunmayı zorluyor
Siber güvenlik uzmanlarının PHP tabanlı sistemlere yönelik son saldırı dalgasını tartıştığı bir dönemde gelen bu uyarı, yapay zekânın zafiyet tespitindeki hızına odaklanıyor. Altman, Anthropic tarafından Project Glasswing çerçevesinde geliştirilen Mythos adlı modeli somut bir risk örneği olarak gündeme getirdi. Paylaşılan verilere göre söz konusu model, 30 günden kısa bir süre içerisinde 10 bin kritik sistem açığını tek başına tespit etmeyi başardı. Belirlenen açıkların bir kısmı güvenlik ekiplerince kapatılmış olsa da sistemlerin bu hızda taranabilmesi, insan müdahalesine dayalı geleneksel savunma döngülerinin yetişemeyeceği bir operasyonel eşiğe işaret ediyor.
Süper zekâ için küresel denetim tartışması
Güvenlik risklerinin yalnızca yazılım yamalarıyla sınırlı kalmadığına dikkat çeken Altman, süper zekâ geliştirme sürecinin kontrol altında tutulabilmesi için kurum içi toplantılarda değerlendirilen senaryoları da paylaştı. The Information tarafından aktarılan planlara göre, en güçlü modelleri eğiten geliştiricilere bağlayıcı güvenlik standartları getirebilecek ve Uluslararası Atom Enerjisi Ajansı modelini temel alan küresel bir denetim mekanizması ilk alternatifler arasında bulunuyor. Tek bir şirketin veya yapay zekâ kazananının aşırı güç biriktirmesinin yaratacağı rahatsızlığa işaret eden değerlendirmeler, bağımsız bir denetçi kurumun gerekliliğini ortaya koyuyor.
Yapay zekâ yeteneklerinin kontrol araçlarından çok daha hızlı gelişmesi, kitlesel ölçekte ve yüksek süratle hareket eden yazılımlara karşı mevcut güvenlik duvarlarını savunmasız bırakıyor. Tehditlerin önlenmesi için model geliştiricilerini hangi otoritenin ve hangi yasal çerçevede denetleyeceği henüz netleşmiş değil. Saldırı yazılımlarının saniyeler içinde binlerce güvenlik açığı keşfettiği bir ortamda, geleneksel siber savunma altyapılarının otonom savunma ajanlarına dönüştürülmesi ve küresel güvenlik standartlarının hayata geçirilmesi zorunlu bir adım olarak masada duruyor.
Neden önemli?Gelişmiş modellerin yazılımlardaki binlerce kritik açığı günler içinde tespit edebilmesi, kurumların ve devletlerin mevcut koruma yöntemlerini kökten yenilemesini zorunlu kılıyor.
Cevabı beklenen sorular
- Geliştirilen otonom modellerin yazılım açıklarını kötüye kullanmasını engelleyecek küresel standartlar hangi kurum tarafından denetlenecek?
- Kurumlar ve altyapı sağlayıcıları, saniyeler içinde binlerce güvenlik açığı tarayabilen yapay zekâ saldırılarına karşı savunma mekanizmalarını ne kadar sürede dönüştürebilecek?
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
