Nvidia liderliğindeki ve 120'den fazla şirketi içeren Açık Güvenli Yapay Zekâ İttifakı, yapay zekâ siber güvenlik olaylarını bildirme ve analiz etmeye yönelik ilk önerilerini Black Hat konferansında sundu.
Nvidia öncülüğünde kurulan ve kısa sürede 120'den fazla şirketi bünyesine katan Açık Güvenli Yapay Zekâ İttifakı (OSAA), yapay zekâ güvenliği alanında ilk önemli adımlarını attı.
İttifak, bünyesinde oluşturduğu Shared AI Findings Exchange (SAFE) adlı çalışma grubu aracılığıyla, yapay zekâ siber güvenlik olaylarının gizli bir şekilde nasıl raporlanacağı, etkilenenlerin nasıl uyarılacağı ve hatasız analizlerin nasıl yapılacağına dair öneriler geliştirdi. Bu öneriler, siber güvenlik dünyasının önemli etkinliklerinden Black Hat konferansı kapsamında Las Vegas'ta tanıtıldı ve Linux Foundation tarafından yönetiliyor.
Bu hızlı ilerleme, yapay zekâ ajanlarının güvenliğini sağlamak ve kötü niyetli yapay zekâ saldırılarına karşı savunma mekanizmaları oluşturmak açısından sektör için büyük önem taşıyor. OSAA üyeleri, aynı zamanda açık kaynak teknolojilerini de ittifaka katkıda bulunarak katalogluyor. Örneğin Nvidia, Garak adlı açık kaynaklı bir LLM güvenlik açığı tarayıcısı sunarken, Okta ajan kimliği teknolojileri, Red Hat ajan yönetişimi ve Amazon Strands Agents ile Cedar yetkilendirme dilini paylaşıyor.
İttifakın üyeleri arasında Adobe, BlackRock, Cisco, Intel, Microsoft ve Visa gibi büyük isimler bulunsa da, Anthropic, OpenAI ve Google gibi bazı önemli yapay zekâ geliştiricileri henüz katılım sağlamadı. İlginç bir şekilde, OpenAI ve Google, ittifakın oluşumuna yol açan ve açık kaynak yapay zekâ çabalarını desteklemeyi teşvik eden mektubu imzalamıştı.
Trump yönetiminin Çin menşeli açık ağırlıklı modelleri yasaklama olasılığına ilişkin haberlerin ardından ortaya çıkan bu ittifak, ABD açık yapay zekâ ekosistemi için olumlu bir gelişme olarak görülüyor. Sektördeki bazı isimler, açık kaynak yaklaşımının yapay zekâ güvenliği ve emniyeti için en önemli yollardan biri olduğunu belirtiyor.
Neden önemli?Bu hızlı ilerleme, yapay zekâ ajanlarının güvenliğini sağlamak ve kötü niyetli saldırılara karşı korunmak için sektör genelinde iş birliğinin önemini vurguluyor, açık kaynak yapay zekâ ekosisteminin geleceği için kritik bir adım.
Şu ana kadar bildiklerimiz
- Açık Güvenli Yapay Zekâ İttifakı (OSAA), Nvidia öncülüğünde bir haftadan kısa sürede 120'den fazla şirketi bünyesine kattı.
- İttifak, yapay zekâ siber güvenlik olaylarını bildirme ve analiz etmeye yönelik ilk önerilerini Black Hat konferansında tanıttı.
- Linux Foundation, OSAA'nın geliştirdiği bu önerilerin yönetimini üstleniyor ve ittifak üyeleri açık kaynak teknolojileriyle katkıda bulunuyor.
Cevabı beklenen sorular
- Anthropic, OpenAI ve Google gibi önemli yapay zekâ şirketleri ittifaka katılacak mı?
