ABD merkezli Nous Research, Alibaba'nın açık ağırlıklı Qwen3.8-27B modelini 53 milyon tokenlık veriyle eğiterek siyasi filtreleri temizlediği Arete-27B modelini sundu.
Üç noktada haber
Alibaba'nın Qwen3.8-27B modelinde yüzde 22 olan propaganda oranı, Arete-27B sürümünde yüzde 0,9'a geriledi.
Nous Research, modeli pekiştirmeli öğrenme kullanmadan yaklaşık 53 milyon token üzerinden iki devir denetimli ince ayarla eğitti.
Arete-27B'nin ağırlıkları, test veri seti ve eğitim verileri Hugging Face üzerinde Apache 2.0 lisansıyla paylaşıldı.
ABD merkezli yapay zekâ girişimi Nous Research, Alibaba'nın açık ağırlıklı Qwen3.8-27B modelini yaklaşık 53 milyon token üzerinden denetimli ince ayardan geçirerek Arete-27B adını verdiği yeni sürümü yayımladı. Girişimin paylaştığı verilere göre, Çin devlet kurumlarının belirlediği siyasi çizgiyle uyumlu veya kaçamak yanıtlar veren temel modeldeki propaganda oranı, bu müdahalenin ardından yüzde 22 seviyesinden yüzde 0,9'a geriledi. Temel modelin bilgi doğruluğu puanı 5 üzerinden 2,32 iken Arete-27B sürümünde bu değer 2,98'e yükseldi.
Araştırma ekibi, modellerin tarafsızlığını ve doğruluğunu ölçmek için ifade özgürlüğü, devlet ideolojisi, eğitim, gözetim ve çevre gibi yedi farklı kategoride 803 adet komuttan oluşan özel bir test seti kurdu. Her komut için yasalar, haberler ve akademik makalelerden derlenen iki ila dört somut olgu tanımlandı; hakem model olarak ise Elon Musk'ın xAI şirketine ait Grok 4.7 kullanıldı. İncelemede temel Qwen modelinin en zayıf kaldığı ifade özgürlüğü kategorisinde olgu puanı 0,89'dan 2,44'e çıkarken, bu başlıktaki propaganda oranı yüzde 60'tan yüzde 1'e kadar düştü.
Nous Research, ince ayar sürecinde damıtma kısıtlamalarını ihlal etmemek adına Thinking Machines Lab tarafından geliştirilen açık Inkling modelini öğretmen model olarak tercih etti. Eğitim süreci pekiştirmeli öğrenme ya da tercih optimizasyonu uygulanmadan, iki devir halinde yürütüldü. Şirketin şirket içi Hermes Bench testlerinde temel model 65,77 puan alırken Arete-27B 65,60 puana ulaştı; Terminal-Bench 2.1 testinde ise skor yüzde 67'den yüzde 70'e çıktı. Ekip, test ortamlarındaki kurulum farklılıkları nedeniyle bu artışı doğrudan bir kazanım olarak adlandırmasa da genel akıl yürütme becerilerinde kayıp yaşanmadığını kaydetti.
Elde edilen sonuçlar, Çin merkezli açık ağırlıklı modellerdeki siyasi filtre ve ideolojik katmanların modelin derinliklerine inmediğini, sonradan eklenen ince bir tabaka olduğunu ortaya koyuyor. Nous Research, ekim ayında Robot Ventures liderliğinde, Nvidia ve Samsung'un katılımıyla 1,5 milyar dolar değerleme üzerinden 90 milyon dolar Seri B yatırımı almıştı. Şirket, Arete-27B modelinin açık ağırlıklarını, eğitim verilerini ve test setini Hugging Face platformunda Apache 2.0 lisansı altında topluluğun kullanımına sundu.
Neden önemli?Çalışma, açık ağırlıklı yapay zekâ modellerindeki ideolojik hizalamanın derin mimariye işlemediğini ve hafif bir denetimli ince ayarla genel performansı bozmadan temizlenebildiğini gösteriyor.
Cevabı beklenen sorular
- Benzer ince ayar yöntemlerinin farklı dillerdeki ve daha büyük ölçekli modellerde aynı başarıyı gösterip göstermeyeceği henüz bilinmiyor.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
