Yapay zekâ şirketi Anthropic, 50'den fazla kişinin ölümü veya 1 milyar doları aşan zarar riski taşıyan modellerin dağıtımını durdurmayı öngören bir federal yasa taslağı önerdi.
Üç noktada haber
Anthropic, en az 50 kişinin ölümüne veya 1 milyar dolarlık hasara yol açabilecek yakın risk senaryolarında modellerin dağıtımını durdurmayı öngören bir yasa taslağı hazırladı.
Taslak uyarınca denetçiler felaket riski tespit ettiğinde durumu 72 saat içinde ABD Ticaret Bakanlığı'na bildirecek ve durdurma talebi Washington D.C.'deki bir yargıca iletilecek.
Önerilen tasarı federal kurumların kendi takdiriyle bir modelin dağıtımını durdurmasını açıkça yasaklıyor.
Yapay zekâ şirketi Anthropic, riskli modellerin kamuya dağıtımını belirli koşullarda engellemeyi öngören yeni bir federal yasa tasarısı taslağı hazırladı. Politico'nun aktardığı ve şirket sözcüsünün doğruladığı taslak metin, ABD Kongresi'nin değerlendirmesine sunulmak üzere hazırlandı. Düzenleme, biyolojik silah üretimi, modelin geliştirici kontrolünden çıkması veya büyük çaplı bir siber saldırı nedeniyle 50'den fazla insanın ölüm riskiyle karşılaşması ya da 1 milyar doları aşan maddi hasar doğması durumlarını felaket riski olarak tanımlıyor. Bu ölçütler, Kaliforniya'da kabul edilen Senato Yasa Tasarısı 53 (SB 53) düzenlemesindeki risk eşikleriyle benzerlik gösteriyor.
Yargı Kararı ve 72 Saat Şartı
Anthropic'in önerdiği mekanizma, olası bir felaket riskinin tespitinde ABD Ticaret Bakanlığı'na kayıtlı bağımsız denetçilerin görev almasını öngörüyor. Taslağa göre denetçiler yakın bir felaket riski saptadığında, durumu 72 saat içinde Ticaret Bakanlığı'na iletmekle yükümlü olacak. Bakanlık ise modelin dağıtımını doğrudan durduramayacak; kararın Washington D.C.'deki federal bir yargıçtan talep edilmesi gerekecek. Yasa taslağı, herhangi bir federal kurumun kendi takdiriyle bir yapay zekâ modelinin dağıtımını durdurma yetkisine sahip olmasını açık biçimde yasaklıyor.
Arşiv fotoğrafı: Bakan Peter Kyle, San Francisco'da Anthropic'i ziyaret ediyor.
Denetçilerin Finansmanı ve Sektör Görüşleri
Taslakta yer alan kritik bir diğer ayrıntı, denetçilerin doğrudan yapay zekâ laboratuvarları tarafından ücretlendirilebilmesine olanak tanıması. Düzenleme, ödemelerin inceleme sonuçlarına bağlı olmaması şartını koşsa da şirketlerden fon alan denetçilerin değerlendirmelerinde nasıl tam bağımsız kalacağı sorusuna net bir güvence getirmiyor. Sektör genelinde DeepMind Yönetim Kurulu Başkanı Demis Hassabis finans sektöründeki FINRA benzeri bir özdenetim organı kurulmasını önerirken, Nvidia yöneticisi Jensen Huang ise yapay zekâ sektörünün yeni yasalara hiç ihtiyacı olmadığını savunmuştu.
Arşiv fotoğrafı: Bakan Peter Kyle, San Francisco'da Anthropic'i ziyaret ediyor.
Girişimin Arka Planı
Anthropic sözcüsü, taslağın şirketin haziran ayından bu yana federal ve eyalet düzeyindeki yasa koyucularla paylaştığı İleri Düzey Yapay Zekâ Çerçevesi içindeki önerileri yansıttığını açıkladı. Yapay zekâ laboratuvarları bir süredir teknolojinin yaratabileceği risklere dikkat çekse de bağlayıcı devlet denetimine mesafeli duruyor ve kurum içi bağımsız denetçilere dayalı gönüllü sistemleri öne çıkarıyor. Anthropic'in bağlayıcı yasa önerisi sektördeki genel serbestlik yanlısı tutumdan ayrılsa da durdurma yetkisini idareden alıp mahkemelere vererek federal müdahale alanını dar bir çerçevede tutuyor.
Neden önemli?Öneri, federal kurumların tek taraflı müdahalesini sınırlayıp durdurma yetkisini yargıca bırakırken, denetçilerin yapay zekâ şirketlerince ücretlendirilmesi tartışma yaratıyor.
Cevabı beklenen sorular
- ABD Kongresi'nin taslakta yer alan yargıç onaylı durdurma mekanizmasını yasa tasarısı olarak gündeme alıp almayacağı.
- Yapay zekâ laboratuvarları tarafından ücretlendirilecek bağımsız denetçilerin tarafsızlığının uygulamada nasıl sağlanacağı.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
