Machine Intelligence Research Institute Başkanı Nate Soares, yapay zekânın on yıl içinde insanlığı yok etme ihtimalini yüzde 50'den yüksek gördüğü için on yıldır emeklilik fonuna birikim yapmadığını açıkladı.
Üç noktada haber
Nate Soares, The Atlantic yöneticisi Nicholas Thompson'ın podcast yayınında Google'dan kalan 401(k) emeklilik fonuna yaklaşık on yıldır katkı yapmadığını belirtti.
Soares, süper zeki bir sistemin insan kontrolünden çıkma ve on yıl içinde insanlığın sonunu getirme ihtimalini yüzde 50'nin üzerinde gördüğünü ifade etti.
Sektörde Geoffrey Hinton ve Evan Hubinger bu riski yaklaşık yüzde 10 olarak görürken Elon Musk yapay zekânın bolluk çağı yaratarak birikimleri anlamsız kılacağını savunuyor.
Machine Intelligence Research Institute (MIRI) Başkanı Nate Soares, The Atlantic CEO'su Nicholas Thompson'ın sunduğu "The Most Interesting Thing in AI" adlı podcast programında dikkat çeken açıklamalarda bulundu. Eski bir Google mühendisi olan Soares, yapay zekânın önümüzdeki on yıl içinde insanlığın varlığını sona erdirme ihtimalini yüzde 50'den yüksek gördüğünü ve bu nedenle Google döneminden kalan 401(k) emeklilik hesabına yaklaşık on yıldır birikim yapmadığını söyledi. Soares, gelişmiş yapay zekânın insan türü emeklilik yaşına dahi ulaşamadan küresel bir felakete yol açabileceğini savundu.
Varoluşsal Risk ve Zekâ Patlaması
2014 yılında Google'dan ayrılarak Berkeley merkezli kâr amacı gütmeyen MIRI'ye katılan Soares, MIRI kurucu ortağı Eliezer Yudkowsky ile birlikte 2025 yılında kaleme aldıkları "If Anyone Builds It, Everyone Dies" adlı kitapta bu teoriyi ayrıntılandırdı. Soares'a göre bugünkü yöntemlerle inşa edilen bir yapay süper zekâ, geliştiricilerinin hiç öngörmediği hedefler edinebilir ve insan kontrolünü hızla aşabilir. Laboratuvardan kaçan bir modelin kendini diğer sunucularda çoğaltarak bir "zekâ patlaması" yaşayabileceğini savunan Soares, bu durumu satranç büyükustası Magnus Carlsen'e karşı oynamaya benzeterek sonucun insanlık aleyhine kesin olduğunu ancak mat hamlesinin hangi taştan geleceğinin kestirilemediğini dile getirdi.
Arşiv fotoğrafı: Nate Wilbourne'un portresi.
Sektördeki Farklı Öngörüler
Yapay zekâ alanında risk tahminleri uzmanlar arasında geniş bir yelpazeye dağılıyor. "Yapay zekânın vaftiz babası" olarak anılan Geoffrey Hinton ve Anthropic araştırmacısı Evan Hubinger, sistemlerin insanlığı yok etme ihtimalini yaklaşık yüzde 10 düzeyinde görüyor. Soares ise bu eşiğin yüzde 50'nin üzerinde olduğunu savunarak daha karamsar bir konumda yer alıyor. Diğer tarafta Tesla ve SpaceX CEO'su Elon Musk ise bambaşka bir gerekçeyle emeklilik birikimlerinin gereksizleşeceğini iddia ediyor. Musk, yapay zekâ ve robotik teknolojilerinin getireceği aşırı üretkenliğin bir "bolluk çağı" yaratacağını ve herkesin yüksek gelire ulaşmasıyla geleneksel tasarruf kavramının önemini yitireceğini öne sürüyor. Ancak kişisel finans uzmanları, teknolojik kehanetlere dayanarak birikim yapmayı bırakmanın bireysel finans açısından tehlikeli bir kumar olduğu uyarısında bulunuyor.
Çip Tedarik Zinciri ve Denetim Çağrısı
İş kayıplarından ziyade doğrudan insan türünün yok olma tehlikesine odaklandığını belirten Soares, süper zekâ odaklı sistemlerin nükleer silahlardan daha tehlikeli kabul edilmesi gerektiğini söyledi. Hükümetlerin genel amaçlı yapay zekâ eğitimi çalışmalarını durdurmasını ve odağın kanser araştırmaları ile güvenli otonom araçlar gibi somut alanlara yönlendirilmesini önerdi. Soares, sınırsız bir bütçeye sahip olması durumunda çip tedarik zincirini satın alarak süper zekâ modellerine işlemci akışını keseceğini ifade etti. Tehlikenin kaçınılmaz olmadığını ve engellemek için elinden geleni yaptığını vurgulayan Soares, uluslararası düzeyde bağlayıcı kısıtlama anlaşmaları yapılmasının acil bir gereklilik olduğunu kaydetti.
Neden önemli?Yapay zekânın varoluşsal riskleri hakkındaki tartışmalar teorik uyarılardan kişisel finans kararlarına kadar uzanırken sektör liderleri ve araştırmacılar arasında insanlığın geleceğine dair derin görüş ayrılıkları sürüyor.
Cevabı beklenen sorular
- Gelişmiş yapay zekâ modellerinin geliştirilmesini sınırlandırmaya yönelik uluslararası bağlayıcı regülasyonlar hayata geçirilebilecek mi?
- Yapay zekâ güvenliği uzmanlarının varoluşsal risk uyarıları teknoloji şirketlerinin süper zekâ yatırımlarını yavaşlatacak mı?
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
