Meta, yazılım ajanlarının araç çağırma ve kodlama gibi tekrarlayan iş yüklerini yürütmesi için geliştirdiği 1 milyon token bağlam pencereli Muse Ember yapay zekâ modelini kullanıma sundu.
Üç noktada haber
Model, 1 milyon tokenlık girdi bağlam penceresine ve 512 bin tokene kadar çıktı kapasitesine sahip.
Girdi maliyeti milyon token başına 0,10 dolar, çıktı maliyeti ise milyon token başına 0,50 dolar olarak belirlendi.
Model metin, görsel, ses ve video girdilerini ayrı bir yardımcı modele ihtiyaç duymadan yerel olarak işleyebiliyor.
Meta, yazılım ajanlarının gün boyu tekrarladığı araç çağırma, kodlama alt görevleri, yönlendirme ve uzun belge ayrıştırma işlemleri için geliştirdiği Muse Ember modelini duyurdu. Şirketin açıklamasına göre Muse Wonder Full modeli kullanılarak eğitilen ilk sistem olan Muse Ember; Meta Model API ve Muse Code üzerinde "muse-ember-1.0" adıyla erişime açıldı. Model ayrıca Google Cloud ve Oracle Cloud altyapılarında da eşzamanlı olarak yerini aldı.
Fiyatlandırma tarafında model, girdi için milyon token başına 0,10 dolar, önbelleğe alınmış girdi için milyon token başına 0,004 dolar ve çıktı için milyon token başına 0,50 dolar seviyesinde konumlandırıldı. 1 milyon tokenlık girdi bağlam penceresi ve 512 bin tokene kadar çıktı kapasitesi sunan Muse Ember; tek bir çağrıda tüm bir kod tabanını ya da geniş belge kümelerini işleyebiliyor. Meta, modelin Artificial Analysis görev başına yaklaşık 0,14 dolarlık bir maliyet sunduğunu ve bu tablonun verimlilik sınırında yer aldığını iddia ediyor.
Model mimarisi gereği metin, görsel, ses ve video verilerini ayrı bir modele ihtiyaç duymadan doğrudan işleyebiliyor. Bu yapı sayesinde yazılım ajanları ekran görüntülerini okuyabiliyor, bilgisayar arayüzlerini doğrudan yönlendirebiliyor, ses kayıtlarını ve toplantı videolarını çözümleyebiliyor. Şirket, zorlu planlama adımları gerektiren projelerde Muse Wonder modelinin planlama yapmasını, Muse Ember'ın ise dosya okuma, test çalıştırma ve hedefli düzeltmeler gibi yüzlerce kez tekrarlanan iş yüklerini üstlenmesini öneriyor.
Yayın öncesi güvenlik değerlendirmeleri kapsamında model, Meta Süper Zekâ Ölçeklendirme Çerçevesi altında kimyasal, biyolojik, siber güvenlik ve kontrol kaybı riskleri açısından test edildi. Meta, yapılan değerlendirmelerde Muse Ember'ın belirlenen yüksek risk eşiklerinin altında kaldığını ve kullanıcı adına hareket eden ajan davranışlarında hassas veri koruması ile web sayfalarındaki gizli yönlendirmelere direnç testlerinden geçirildiğini bildirdi. Model, geliştiricilerin kullanımına Responses API desteğiyle sunuldu.
Neden önemli?Milyon girdi tokenı başına 0,10 dolarlık maliyet, geliştiricilerin karmaşık ajan iş akışlarını ve geniş kod tabanı analizlerini çok daha düşük bütçelerle otomatikleştirmesine olanak tanıyor.
Cevabı beklenen sorular
- Üçüncü taraf bağımsız geliştiricilerin ve kurumsal yazılım ekiplerinin geniş ölçekli testlerinde modelin vadedilen maliyet ve hız dengesini ne ölçüde koruyacağı henüz bilinmiyor.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
