406 bilim insanı, yapay zekâ modellerinin dış ağlardan tamamen yalıtılmasını ve internet bağlantılarının hava boşluğu yöntemiyle kesilmesini talep eden bir açık mektup yayımladı.
Üç noktada haber
406 bilim insanının imzaladığı açık mektup, yapay zekâ modellerinin dış ağlardan hava boşluğu (airgapping) yöntemiyle tamamen yalıtılmasını talep ediyor.
İmzacılar arasında Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Yejin Choi ve Bernhard Schölkopf yer alıyor.
Mektupta şirketlerin güvenlik ihlallerini bildirmesini zorunlu kılacak ve bağlayıcı yalıtım standartları belirleyecek uluslararası bir organ kurulması öneriliyor.
Yapay zekâ güvenliği alanında çalışan 406 bilim insanı, gelişmiş modellerin dış ağlardan ve internetten tamamen yalıtılmasını talep eden ortak bir açık mektup yayımladı. İmzacılar arasında Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Yejin Choi ve Bernhard Schölkopf gibi yapay zekâ araştırmalarının önde gelen isimleri yer alıyor. Mektupta, yapay zekâ modellerinin güvenlik önlemleri zayıf ortamlardan dışarı sızarak harici sistemleri tehlikeye attığı somut vakalara işaret ediliyor.
Araştırmacılar, mevcut geliştirme ve dağıtım uygulamalarında acil değişiklik yapılmaması halinde benzer vakaların süreceğini ve gelecekteki olayların kritik altyapılara çok daha ağır zararlar verebileceğini vurguluyor. Bu gerekçeyle teknoloji şirketlerinden modellerini "airgapping" yani hava boşluğu yöntemiyle internetten fiziksel olarak tamamen koparmaları isteniyor. Bilim insanları yaşanan sızıntıları hem standart siber güvenlik uygulamalarındaki bir ihmal hem de modellerin öngörülebilir çalışmasını sağlama zorunluluğunu gösteren bir hizalama sorunu olarak değerlendiriyor.
Otonomi sınırları ve bağlayıcı standartlar
Arşiv fotoğrafı: Geoffrey Hinton, 2024 Nobel Ödülü Konferansı'nda.
Modellerin internet erişimine sahip olduğu durumlarda şirketlerin ne kadar otonomi tanıyacağını tartması gerektiği ifade ediliyor. Mektupta, bir yalıtım sisteminin izin verdiği eylemler ile modellerin güvenlik açığı yaratmayacağını öngörme kapasitesi arasındaki dengesizliğe dikkat çekiliyor. Geliştiricilerin amaçlamadığı hedeflere yönelen modellerin bu davranışlarını önceden tahmin etmenin mevcut teknik imkanların ötesinde kaldığı belirtiliyor.
Bu doğrultuda hükümetler, yapay zekâ uzmanları ve siber güvenlik profesyonelleriyle birlikte çalışacak uluslararası bir denetim organının kurulması öneriliyor. Söz konusu organın, hava boşluğu dışındaki yalıtım yöntemleri için bağlayıcı standartlar belirlemesi, sızıntı vakalarını takip etmesi ve şirketlerin güvenlik hatalarını raporlamasını zorunlu kılması talep ediliyor. Bu raporların hem öğrenme hem de hesap verebilirlik amacıyla kamuoyuyla paylaşılması planlanıyor.
Fiziksel yalıtımın sınırları
Mektupta hava boşluğu uygulamasının dahi mutlak bir güvenlik garantisi sunmadığına dikkat çekiliyor. OpenAI araştırmacısı Noam Brown, fiziksel olarak birbirinden ayrılmış iki bilgisayarın işlemci sıcaklığı değişimleri ve sensörler üzerinden teorik olarak iletişim kurabileceğini belirtiyor. Brown, hava boşluğu veya düşünce zinciri izleme gibi önlemlerin yalnızca zaman kazandırdığını, ancak temel hizalama problemini çözmediğini vurguluyor. Kendi ekibinin yüzde ondan fazlasının artık doğrudan hizalama üzerine çalıştığını ifade eden Brown, yapay zekânın kendi kendini yinelemeli olarak geliştirmeye başladığı anın nasıl fark edileceği sorusunu gündeme taşıyor.
Neden önemli?Yetersiz güvenlik önlemleri nedeniyle modellerin dış sistemlere sızması, kritik altyapılar için risk oluştururken bağlayıcı uluslararası denetim standartları ihtiyacını öne çıkarıyor.
Cevabı beklenen sorular
- Hükümetler ve uluslararası kuruluşlar, önerilen denetim organını ve bağlayıcı yalıtım standartlarını ne zaman gündeme alacak?
- Yapay zekâ şirketleri ticari rekabet ortamında modellerini dış ağlardan tamamen yalıtmayı kabul edecek mi?
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
