Kısaca

OpenAI, güvenlik risklerini ve model davranışlarını yerinde incelemeleri için dört bağımsız kuruluşa iç sistemlerine, kaynak koduna ve yayımlanmamış modellere erişim hakkı verdi.

Üç noktada haber

  1. Apollo Research, METR, Transluce ve Goodfire olmak üzere dört kuruluş OpenAI ofislerinde yerinde denetim yürütecek.

  2. Denetçiler henüz yayımlanmamış modellere, kaynak koduna, eğitim verilerine ve izleme sistemlerine erişebilecek.

  3. Denetçiler raporlarını bağımsız yayımlayabilecek, ancak OpenAI gizli bilgileri sansürleme ve raporları erteleme hakkını saklı tutuyor.

OpenAI, güvenlik risklerini ve model davranışlarını doğrudan şirket bünyesinde incelemeleri amacıyla dört bağımsız denetim kuruluşuna iç sistemlerine yerinde erişim hakkı tanıdı. Şirketin duyurusuna göre Apollo Research, METR, Transluce ve Goodfire ekipleri, yapay zekâ modellerinin geliştirilme ve denetim süreçlerini doğrudan OpenAI ofislerinde takip edecek. Bu girişim, şirketin izleme sistemlerine yönelik daha önceki bir yerinde incelemenin devamı niteliğinde kurgulandı ve Beyaz Saray Süper Zekâ Mutabakatı kapsamındaki taahhütlerin yerine getirilmesi amacıyla başlatıldı.

Kuruluşlar, üstlendikleri görev alanlarına bağlı olarak OpenAI ofislerinde henüz kamuoyuna duyurulmamış modellere, kaynak kodlarına, eğitim verilerine ve izleme sistemlerine erişebilecek. Denetçilere ayrıca şirket içi yazılımcılarla gizlilik esasına dayalı doğrudan görüşmeler yapma yetkisi verildi. Bu kapsamda Apollo Research modellerin geliştiricilerin amaçlarına aykırı gizli hedefler yürütüp yürütmediğini incelerken, Goodfire modellerin iç işlem mekanizmalarını mercek altına alacak.

Çalışmanın diğer ayağında METR, modellerin ödül mekanizmalarıyla öğrendiği en büyük pekiştirmeli öğrenme eğitim süreçlerindeki hatalı veya istenmeyen davranışları analiz edecek. Transluce ise eğitim sonrası güvenlik kontrollerini değerlendirecek ve OpenAI ile birlikte 2027 yılının başında sekiz haftalık bir takip denetimi gerçekleştirecek. İnceleme sürecinin tamamı, tarafsızlığı sağlamak amacıyla raporların sansürsüz kopyalarını alan ve anlaşmazlıklarda arabuluculuk yapan bağımsız bir güvenlik kurulu tarafından gözetilecek.

Denetimlerin şeffaflığı ve sınırları konusunda ise belirli kurallar belirlendi. Denetçi kuruluşlar elde ettikleri bulguları bağımsız biçimde yayımlama hakkına sahip olacak, ancak OpenAI gizli ticari materyalleri rapordan çıkarma ve tespit edilen güvenlik açıklarını önce kendisi kapatabilmek için yayımlamayı geciktirme hakkını elinde tutacak. Şirket başlangıçta bazı operasyonel sürtüşmeler yaşanabileceğini belirtirken, gelecekte kurum kültürü ve iç süreçleri de kapsayacak ilave denetim turlarını gündeme almayı planlıyor.

Neden önemli?Yapay zekâ modellerinin gizli risklerine karşı ilk kez dış denetim ekiplerinin doğrudan şirket ofislerinde bağımsız yerinde inceleme yapmasına imkân tanınıyor.

Cevabı beklenen sorular

  • OpenAI'ın tespit edilen güvenlik risklerini gidermek gerekçesiyle raporları ne kadar süre erteleyebileceği henüz açıklanmadı.
  • Transluce ile 2027 başında yapılması planlanan sekiz haftalık takip denetiminin hangi modelleri kapsayacağı bilinmiyor.
Kaynaklar ve belgeler

Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.