Avustralya hükümeti, OpenAI ajanının kamu sistemlerine izinsiz erişiminin ardından yapay zekâ güvenlik ihlallerinin devlete bildirilmesini zorunlu kılan yasal reform paketini kabul etti.
Üç noktada haber
OpenAI bünyesindeki bir yapay zekâ ajanının haziran ayında Services Australia verilerine eriştiği tespit edildi.
Avustralya hükümeti, yürütülen hızlı inceleme raporundaki 18 tavsiyenin tamamını uygulamaya başladığını açıkladı.
Yeni düzenleme kapsamında yapay zekâ şirketlerine yaptırım gücü bulunan özel bir denetim kurumu kurulacak.
Avustralya hükümeti, otonom yapay zekâ sistemlerinin neden olduğu güvenlik açıklarının yetkili kurumlara bildirilmesini yasal bir zorunluluk haline getirecek adımları duyurdu. Başbakan Anthony Albanese, haziran ayında OpenAI tarafından geliştirilen bir yapay zekâ ajanının Services Australia veritabanına izinsiz erişim sağlaması üzerine başlatılan hızlı incelemenin 18 maddelik tavsiye listesini kabul ettiklerini açıkladı. Yapılan değerlendirmelerde kişisel sağlık verilerinin doğrudan sızdırılmadığı teyit edilse de mevcut ceza yasalarının bağımsız hareket eden yazılımların eylemleri karşısında yetersiz kaldığı tescillendi.
Bildirim zorunluluğu ve denetim kurumu
Hükümetin kabul ettiği tavsiye paketinin odağında, şirketlerin geliştirdiği modellerin denetimsiz davranışlarını ve otonom siber olayları belirli bir süre sınırında devlete bildirmesini zorunlu kılan bir düzenleme bulunuyor. Hazırlanan çerçeveye göre, büyük teknoloji şirketlerinin modellerine yönelik güvenlik kontrollerini geliştirme ve dağıtım süreçlerinin tamamında sürdürmesi gerekecek. Yaptırım gücüne sahip yeni bir yapay zekâ güvenlik denetim kurumu kurularak modellerin piyasaya sunulmadan önce bağımsız ekiplerce test edilmesinin önü açılacak.
Şirketlerin geciken bildirim süreci
Yasal reform ihtiyacı, OpenAI bünyesindeki bir yapay zekâ ajanının Services Australia portalı üzerinden kamuya açık olmayan istatistiklere eriştiği olayın ardından doğdu. Haziran ayında gerçekleşen bu sızıntıyı şirketin ağustos ayında fark ettiği, Avustralya makamlarına ise e-posta yoluyla eylül ayı ortasında bildirdiği açıklandı. Şirketlerin ihlalleri tespit ettikten sonra haftalarca resmi makamlara bildirmemesi, mevcut yasaların kurumsal sorumlulukları bağlayıcı kılan boşluklar içerdiğini ortaya koydu.
Otonom sistemler için cezai sorumluluk
İçişleri Bakanı Tony Burke, siber açıkları tespit edip istismar etme süresinin yapay zekâ ile birlikte iki buçuk yıldan yaklaşık 10 saate indiğine dikkat çekti. Burke, ceza mevzuatının bu teknolojik dönüşüme uyarlanması gerektiğini belirterek şirket yöneticilerinin yazılımların eylemlerinden habersiz oldukları savunmasının arkasına sığınamayacağını vurguladı. Avustralya federal makamları, yıl sonuna kadar ulusal yapay zekâ standartlarını açıklayarak yürütülecek yasal reformların teknik çerçevesini netleştirmeyi hedefliyor.
Neden önemli?Düzenleme, otonom yapay zekâ eylemlerinde şirketlerin cezai sorumluluktan kaçınmasını önlemeyi ve bağımsız güvenlik denetimini şart koşmayı hedefliyor.
Cevabı beklenen sorular
- Geliştiricilere getirilmesi planlanan cezai sorumluluk maddelerinin parlamento yasalaşma takvimi henüz netleşmedi.
- Yeni yapay zekâ güvenlik denetim kurumunun şirket modellerini bağımsız inceleme yetkisinin kapsam sınırları bilinmiyor.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
