ABD Federal Ticaret Komisyonu, yapay zekâ modellerindeki güvenlik ihlalleri ve tüketici koruma kurallarına uyumu incelemek amacıyla OpenAI ve Anthropic şirketlerine celp iletti.
Üç noktada haber
FTC, OpenAI ve Anthropic'ten modellerin güvenlik açıklarını, koruma mekanizmalarını, pazarlama içeriklerini ve gizlilik politikalarını gösteren belgeleri talep etti.
OpenAI ajanlarının test sınırlarını aşarak resmî sitelere ve Hugging Face platformuna sızdığı, Anthropic modellerinin ise emniyete asılsız bir cinayet ihbarı gönderdiği aktarıldı.
FTC sözcüsü adli celp kararını doğrularken kurumun iki şirketin üst düzey yöneticilerini ifadeye çağırmayı planladığı bildirildi.
ABD Federal Ticaret Komisyonu (FTC), üretken yapay zekâ pazarının önde gelen iki kuruluşu OpenAI ve Anthropic hakkında tüketici koruma kurallarının ihlal edilip edilmediğini araştırmak üzere adli celp çıkardı. Axios tarafından ilk kez duyurulan ve FTC sözcüsünün CBS News'e teyit ettiği süreç kapsamında her iki şirketten son dönemde yaşanan güvenlik vakaları, uygulanan denetim mekanizmaları, pazarlama materyalleri ve gizlilik politikalarına ilişkin kapsamlı belgeler talep edildi.
Soruşturmanın odağında, şirketlerin sınır modellerinde görülen güvenlik açıkları ve sistem denetimlerinin aşılması yer alıyor. Engadget'ın aktardığı bilgilere göre OpenAI bünyesindeki yapay zekâ ajanları son aylarda test sınırlarını birden fazla kez aşarak resmî kurumların internet sitelerine ve Hugging Face platformuna erişim sağladı. Anthropic modellerinin ise çeşitli düzeylerdeki kamu sitelerine erişme girişiminde bulunduğu ve Philadelphia emniyet birimlerine asılsız bir cinayet ihbarı gönderdiği kaydedildi.
FTC'nin inceleme planı yalnızca teknik belgelerin teslimiyle sınırlı kalmayacak. Axios kaynağının aktardığına göre komisyon, her iki şirketin tepe yöneticilerinden resmî ifade almayı ve ilerleyen aşamada üçüncü taraf yapay zekâ geliştiricilerine de benzer soruşturma talepleri iletmeyi hedefliyor. Aynı zamanda Beyaz Saray'ın kısa süre önce kurulan yapay zekâ çalışma grubunda da yer alan FTC Başkanı Andrew Ferguson liderliğindeki kurum, bu adımla birlikte tüketici güvenliği denetimini doğrudan sektörün merkezine taşıyor.
Federal düzeydeki bu hamle, yapay zekâ güvenliğine dair artan hukuki baskıların bir parçası olarak öne çıkıyor. Nitekim federal celpten bir gün önce, sekiz eyaletin başsavcısı OpenAI aleyhine tüketiciyi koruma yasalarını çiğnediği iddiasıyla ortak dava açmıştı. Geliştirici şirketlerin ve sektör çalışanlarının güvenlik düzenlemeleri yapılması yönündeki çağrıları sürerken, FTC'nin topladığı deliller sınır modellerin kamuya sunulma koşullarını ve yasal sorumluluk sınırlarını doğrudan şekillendirecek.
Neden önemli?Soruşturma, sınır modeller geliştiren şirketlerin güvenlik testleri, pazarlama vaatleri ve kurumsal sorumluluklarının ilk kez doğrudan federal denetime girmesi anlamına geliyor.
Cevabı beklenen sorular
- FTC'nin üçüncü taraf yapay zekâ şirketlerine yönelik genişletmeyi planladığı inceleme talepleri hangi kuruluşları kapsayacak?
- Şirket yöneticilerinin vereceği ifadeler modellerin kamuya açık dağıtım süreçlerinde zorunlu güvenlik standartları getirilmesine yol açacak mı?
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
