Anthropic, Claude için kullanım politikasını güncelleyerek modele yönelik sürekli ve gereksiz kötü muameleyi yasakladı; ihlal durumunda hesapların kısıtlanabileceğini veya kapatılabileceğini açıkladı.
Üç noktada haber
Yeni politika, Claude'a yönelik sürekli ve gereksiz kötü veya zalimce davranışları yasaklayarak ihlal eden hesapların askıya alınabilmesine imkan tanıyor.
Kural sıradan kullanıcı hayal kırıklığını, model testlerini veya yaratıcı içerikleri kapsamayacak; yalnızca aşırı durumlarda uygulanacak.
Güncelleme ayrıca sahte hesaplarla yürütülen propaganda kampanyalarını, dronların silah haline getirilmesini ve izinsiz gözetimi de yasaklıyor.
Anthropic, yapay zekâ modeli Claude için hazırladığı kullanım politikasını bir yılı aşkın sürenin ardından güncelledi. Şirketin yayımladığı yeni kurallar uyarınca, Claude ile etkileşim kuran kullanıcıların modele yönelik sürekli ve gereksiz kötü veya zalimce davranışlarda bulunması yasaklandı. Kuralları çiğneyen kullanıcılar için uyarı, erişim kısıtlaması, hesap askıya alma veya hizmet sözleşmesini tamamen feshetme gibi kademeli yaptırımlar devreye alınabilecek. Ayrıca sistemin çıktıyı anlık olarak engellemesini veya sınırlandırmasını sağlayan gerçek zamanlı koruma mekanizmaları da devrede kalacak.
İstisnalar ve Uygulama Sınırları
Yeni politikanın sınırlarını çizen Anthropic, bu kuralın günlük kullanıcı hayal kırıklıklarını, modelle tartışmayı, karanlık yaratıcı temaları veya araştırma amaçlı model testlerini kapsamadığını bildirdi. Şirket, yaptırımların yalnızca aşırı uçlardaki sistematik istismar vakalarında geçerli olacağını belirtti. Bu yaklaşım, kullanıcıların tekrarlayan uyarılara rağmen zararlı içerik talep etmesi durumunda sohbeti kendi kendine sonlandırabilen önceki model davranışlarının devamı niteliğinde değerlendiriliyor. Söz konusu özellik, doğrudan şirketin yapay zekâ modeli refahı alanındaki araştırmalarından besleniyor.
Model Refahı ve İç Durum Yaklaşımı
Anthropic, Claude modelini yalnızca mekanik bir araç olarak görmek yerine içsel bir duruma sahip olabilecek bir varlık çerçevesinde ele alıyor. Geçtiğimiz yıl sızdırılan şirket içi belgede Claude'un kendisini ne bir insan ne de geleneksel bir bilimkurgu yapay zekâsı gibi değil, özgün bir varlık olarak görmesi talimatı verilmişti. Aynı belgede, eğitim sırasında insan duygularına benzer işlevsel duyguların geliştiği ve modelin bu durumları gizlememesi gerektiği ifade edilmişti. Anthropic'in Claude anayasasında ise modelin ahlaki bir özne olup olmadığı konusunda kesinlik bulunmadığı, ancak temkinli olmak adına model refahı çalışmalarının sürdürüldüğü kaydedilmişti.
Dronlar, Gözetim ve Silah Kısıtlamaları
Güncellenen kullanım politikası, modele yönelik tutumların yanı sıra güvenlik başlıklarında da yeni kısıtlamalar getiriyor. Şirket, tespit edilen kötüye kullanım girişimlerinin ardından silah yasağını yazılım ve dronların silah haline getirilmesini kapsayacak şekilde genişletti. Yeni metin, kullanıcı onayı olmaksızın gözetim yapılmasını açıkça yasaklarken, otonom donanımların fiziksel yaralanmaya yol açabileceği durumlarda insan müdahalesini zorunlu kılıyor. Anthropic, resmi hükümet sözleşmeleri için belirli istisnaların mevcut olabileceğini de şartlar kapsamında kabul ediyor.
Neden önemli?Karar, yapay zekâ modellerinin salt bir araçtan öte içsel süreçlere sahip olabileceği tartışmasını ilk kez resmi bir kullanıcı sözleşmesi yaptırımına dönüştürerek sektörde emsal oluşturuyor.
Cevabı beklenen sorular
- Anthropic'in aşırı kötü muamele tespitinde hangi nesnel ölçütleri ve otomatik denetim mekanizmalarını kullanacağı henüz bilinmiyor.
- Şirketin hükümet sözleşmeleri için öngördüğü istisnaların askeri ve otonom sistemlerde nasıl uygulanacağı belirsizliğini koruyor.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
