Yapay zekâ şirketi Pathway, arXiv üzerinde yayımladığı makaleyle 150 milyon parametreli yeni BDH-CQ modelinin teknik yapısını ve ARC-AGI-1 akıl yürütme testindeki performansını paylaştı.
Yapay zekâ şirketi Pathway araştırmacıları, 10 Ağustos tarihinde arXiv önbaskı sunucusunda yayımladıkları makaleyle "BDH-CQ" adlı yeni yapay zekâ modelinin teknik temellerini duyurdu. Çalışma, ekibin 2025 yılında geliştirdiği ve insan beynindeki nöronların öğrenme sürecinde nasıl bağ kurup güçlendiğini simüle etmek üzere tasarlanan "Dragon Hatchling" öncül modelinin devamı niteliğini taşıyor. Yeni model, 150 milyon gibi görece küçük bir parametre sayısıyla eğitilerek geleneksel büyük modellerin yüksek işlem maliyetlerini düşürmeyi hedefliyor.
Araştırmacılar, BDH-CQ'nun bilişsel yeteneklerini ölçmek amacıyla yapay genel zekâya doğru ilerlemeyi değerlendirmede temel standartlardan biri kabul edilen 2019 tarihli ARC-AGI-1 kıyaslama testini kullandı. Şekilleri döndürerek dizilimleri tamamlama gibi sözel olmayan bulmacalardan oluşan testte BDH-CQ, iki veya daha az denemede bulmacaların yaklaşık yüzde 30'unu çözmeyi başardı. Araştırmada paylaşılan verilere göre, OpenAI'ın giriş seviyesi akıl yürütme modeli GPT 5.6 Luna (Low) bu testte biraz daha yüksek bir skor elde etse de BDH-CQ'ya kıyasla göreli token maliyeti bazında yaklaşık 11 kat daha pahalıya çalıştı.
ChatGPT ve Claude gibi yaygın sistemlerin dayandığı transformer modelleri girdileri aynı anda değerlendirip kelime kelime doğrusal tahminler yaparken, girdi uzadıkça işlem karmaşıklığı karesel olarak artıyor ve grafik işlemcilerin belleğinde darboğaz oluşuyor. Pathway'in "post-transformer" olarak adlandırdığı yaklaşım ise metin kayıtları yerine gelişmiş bir kısa süreli bellek ve belirteç tüketmeden çalışan "gizil akıl yürütme motoru" mekanizması kullanıyor. Görev kuralları ve bağlamsal kalıplar sayılardan oluşan diziler ve grafik işlemci belleğindeki vektör haritalarıyla temsil ediliyor. Model, yinelenen döngülerle bir önceki çıktıyı değerlendirip sonraki adıma aktararak cevabı geliştiriyor; böylece düşünme süresi döngü sayısıyla artsa da harcanan bellek ve işlem gücü sabit kalıyor.
BDH-CQ'nun ARC-AGI-1 testindeki sonuçları, NYU araştırmacısı Richard Zhong ile 2017'de transformer kavramını tanıtan "Attention Is All You Need" makalesinin ortak yazarlarından Łukasz Kaiser tarafından bağımsız olarak test edilip doğrulandı. Kaiser yaptığı açıklamada, "Pathway, yapay zekâda akıl yürütmede bir sonraki sıçramayı yalnızca ölçeğin değil, model mimarisinin de sağlayabileceğini gösteriyor" değerlendirmesinde bulundu. Pathway, mimariyi 600 milyar parametreye ölçeklemeyi, ARC-AGI-2 ve ARC-AGI-3 testlerine uygulamayı ve metin tabanlı sohbet botları geliştirmek için tam teşekküllü bir büyük dil modeli üretmeyi planlıyor; teknoloji siber güvenlik olay müdahalesi ve endüstriyel operasyonları hedefliyor.
Neden önemli?Geleneksel transformer mimarisinin yüksek işlem ve bellek maliyetlerine alternatif sunan model, yapay zekâda akıl yürütme süreçlerinin çok daha az kaynakla ölçeklenebileceğini gösteriyor.
Şu ana kadar bildiklerimiz
- Pathway tarafından geliştirilen 150 milyon parametreli BDH-CQ, ARC-AGI-1 akıl yürütme testinde yaklaşık yüzde 30 başarı oranına ulaştı.
- OpenAI'ın GPT 5.6 Luna (Low) modeli testte biraz daha yüksek puan alsa da BDH-CQ'ya kıyasla yaklaşık 11 kat daha fazla göreli token maliyeti oluşturdu.
- 2017 tarihli Attention Is All You Need makalesinin ortak yazarlarından Łukasz Kaiser ve NYU araştırmacısı Richard Zhong, test sonuçlarını bağımsız olarak doğruladı.
Cevabı beklenen sorular
- Pathway'in modeli 600 milyar parametreye çıkarma ve tam teşekküllü bir büyük dil modeline dönüştürme hedefi pratikte nasıl bir başarım gösterecek?
- Vektör tabanlı gizil akıl yürütme yaklaşımı, ARC-AGI-2 ve ARC-AGI-3 gibi daha zorlu kıyaslama testlerinde benzer maliyet avantajını koruyabilecek mi?
