Sam Altman: Yapay Zekâda Bazı Kazalar Kaçınılmaz, Havacılık Güvenliği Örnek Alınmalı

Yapay zekâ teknolojilerinin geliştirilme ve yaygınlaşma hızı artarken, sektörün önde gelen temsilcilerinden güvenlik süreçlerine dair kapsamlı değerlendirmeler geliyor. OpenAI CEO’su Sam Altman, Salesforce tarafından düzenlenen Dreamforce konferansında yaptığı konuşmada, gelişen her yeni teknolojik altyapıda olduğu gibi yapay zekâ sistemlerinde de belirli seviyedeki kaza ve operasyonel aksaklıkların tamamen engellenemeyeceğini dile getirdi. Altman, teknolojik ilerleme sürecinde asıl belirleyici noktanın bu kazalar meydana geldiğinde sektör paydaşlarının sergileyeceği kurumsal yaklaşım ve olaylardan çıkarılacak dersler olduğunu vurguladı.

Teknoloji dünyasının olası riskler karşısında izlemesi gereken yol haritasına değinen Sam Altman, havacılık sektörünün denetim ve araştırma kültürünü doğrudan örnek gösterdi. Amerikan Federal Havacılık İdaresi (FAA) ve Ulusal Ulaşım Güvenliği Kurulu’nun (NTSB) havacılıkta yaşanan her olayı en ince ayrıntısına kadar inceleyen çalışma modeline dikkat çeken Altman, modern hava ulaşımının ulaştığı yüksek güvenlik seviyesini söz konusu kurumsal öğrenme disiplinine borçlu olduğunu belirtti. Benzer bir yapının yapay zekâ ekosisteminde de kurulması gerektiğini savunan yönetici, hataların ve sistem açıklarının gizlenmek yerine şeffaf bir incelemeye tabi tutulması gerektiğine işaret etti.

Toplum nezdinde yapay zekâ sistemlerinin kontrolden çıkması ya da teknolojinin sağladığı gücün az sayıda şirketin tekelinde toplanması yönünde beliren kaygılara da değinen Sam Altman, bu endişelerin yersiz olmadığını belirtti. Toplumun bu teknolojiden çekinmesini anlayışla karşıladığını belirten OpenAI CEO'su, "Dünyanın bu teknolojiden korkması son derece doğal." ifadesini kullandı. Otonom yapay zekâ modellerine doğru adım adım ilerlenirken güvenlik tartışmalarının derinleştiğini kaydeden Altman, mevcut riskleri aşmanın yolunun çalışmaları tamamen durdurmaktan değil, güvenlik ve denetim standartlarını model yeteneklerinin daima önünde tutmaktan geçtiğini aktardı.

Sektördeki teknoloji şirketlerinin karşılaşabilecekleri aksaklıklar karşısında kamuoyuna ve denetçilere karşı dürüst davranması gerektiğini savunan Sam Altman, süreçlerin gecikmeksizin incelenmesini ve risk faktörlerinin sürekli denetim altında tutulmasını zorunlu bir kriter olarak sundu. Güvenlik ve inovasyon arasındaki dengenin korunamadığı durumlarda araştırmaların bilinçli şekilde yavaşlatılması, hatta gerektiğinde tamamen durdurulması gerektiğini belirten CEO, sorumlu geliştirme ilkelerinin model performansından önce gelmesi gerektiğinin altını çizdi.

Neden önemli?Otonom yapay zekâ sistemlerine geçiş hızlanırken lider bir teknoloji şirketinin kaza ihtimalini açıkça kabullenmesi, güvenlik standartlarının model yeteneklerinin önüne geçmesi gerektiğine yönelik denetim tartışmalarını somutlaştırıyor.

Şu ana kadar bildiklerimiz

• OpenAI CEO’su Sam Altman, Salesforce tarafından düzenlenen Dreamforce konferansında yeni teknolojiler geliştikçe yapay zekâda belirli seviyedeki kaza ve aksaklıkların tamamen engellenemeyeceğini açıkladı.
• Altman, teknoloji dünyasının Amerikan Federal Havacılık İdaresi (FAA) ve Ulusal Ulaşım Güvenliği Kurulu’nun (NTSB) derinlemesine kaza inceleme kültürünü ve öğrenme disiplinini örnek alması gerektiğini belirtti.
• Altman, şirketlerin güvenlik dengesini koruyamadığı durumlarda yapay zekâ araştırmalarının yavaşlatılması hatta durdurulması gerektiğini ve toplumun bu teknolojiden korkmasının son derece doğal olduğunu ifade etti.

Cevabı beklenen sorular

• Yapay zekâ şirketlerinin FAA ve NTSB benzeri bağlayıcı ve bağımsız bir kaza inceleme mekanizmasını ne zaman ve hangi yasal çerçevede kuracağı.
• Araştırmaların yavaşlatılmasını veya durdurulmasını gerektirecek güvenlik risk sınırlarının ve denetim standartlarının nasıl belirleneceği.