NVIDIA, yapay zekâ iş yüklerini ve GPU kullanımını Kubernetes kümelerinde yöneten Run:ai platformunu ve dört temel bileşenini açık kaynak olarak paylaştı.
Üç noktada haber
Run:ai kaynak kodları NVIDIA DSX AI Factory GitHub organizasyonu ve NVIDIA NGC üzerinden açık kaynak topluluk ürünü olarak yayınlandı.
Platform bünyesindeki KAI Scheduler bileşeni Apache 2.0 lisansıyla CNCF Sandbox projesi olarak topluluğa devredildi.
Topluluk sürümü ücretsiz indirilebilirken kurumsal NVIDIA desteği içermiyor ve ticari dağıtımlar NVIDIA AI Enterprise altında sürüyor.
NVIDIA, yapay zekâ kümelerinde GPU kaynaklarını ve iş yüklerini yöneten Run:ai platformunun tamamını açık kaynaklı yazılım olarak erişime açtığını duyurdu. Şirketin açıklamasına göre bu adım, NVIDIA DSX AI Factory platformunun temelini genişleterek ekosistem iş ortaklarının ve yapay zekâ bulut sağlayıcılarının GPU kullanım verimliliğini artırmasını amaçlıyor. Platform kodları, GitHub üzerindeki NVIDIA DSX AI Factory organizasyonunda genel kullanıma sunuldu.
Modüler Mimaride Dört Bağımsız Bileşen
Açık kaynak paketi, entegre platformun yanı sıra Kubernetes kümelerinde bağımsız olarak da çalışabilen dört ana bileşeni kapsıyor. Bu bileşenler arasında Apache 2.0 lisansıyla dağıtılan ve Cloud Native Computing Foundation (CNCF) bünyesine Sandbox projesi olarak sunulan KAI Scheduler yer alıyor. Bununla birlikte küme kaynaklarını departman ve proje bazında paylaştıran KAI Resource Management ile farklı yapay zekâ iş yükü şablonlarını tek çatı altında tanımlayan Workload Map kütüphanesi de bağımsız kurulabiliyor.
Arşiv fotoğrafı: Nintendo Switch 2 NVIDIA SoC GMLX30-A1 çipi.
CUDA 13.4 Tabanlı Donanım Bölümleme
GPU kaynaklarının birden fazla iş yükü arasında donanımsal bellek sınırıyla paylaştırılmasını sağlayan GPU Fractioning Operator, şirketin daha önceki özel mülk çözümünün yerini alıyor. NVIDIA, CUDA 13.4 sürümündeki yerel bellek bölme yeteneğini doğrudan Kubernetes katmanına taşıyarak geliştirme oturumları ve küçük modeller için ek yönetici yapılandırmasına gerek bırakmadan GPU paylaşımı sağlandığını belirtiyor. Bu katman, Kubernetes üzerindeki pod başına düşen GPU kesitlerini metrik olarak dışa aktarabiliyor.
Kurumsal Destek ve Topluluk Sürümü Ayrımı
Açık kaynak Run:ai, NVIDIA NGC kataloğunda topluluk ürünü olarak ve Helm kurulum paketiyle indirilebiliyor. Ancak şirket, bu topluluk sürümünün herhangi bir kurumsal destek içermediğini ve kullanımının NVIDIA Yazılım Lisans Sözleşmesi koşullarına tabi olduğunu vurguluyor. Kurumsal destek, merkezi yönetim ve tam entegrasyon arayan işletmeler için platform; NVIDIA AI Enterprise, Mission Control ve anlaşmalı bulut pazaryerleri üzerinden ticari olarak sunulmaya devam ediyor.
Neden önemli?Açık kaynak hamlesi, yapay zekâ modelleri geliştiren ekiplerin GPU kaynaklarını daha verimli bölüştürmesini ve lisans bedeli ödemeden gelişmiş küme orkestrasyonu kurmasını sağlıyor.
Cevabı beklenen sorular
- Büyük bulut sağlayıcılarının Run:ai bileşenlerini kendi yönetilen Kubernetes servislerine ne hızda entegre edeceği henüz bilinmiyor.
- Topluluk sürümünün kurumsal yapay zekâ kümelerinde üçüncü taraf orkestrasyon araçlarıyla nasıl bir rekabet dengesi kuracağı izlenecek.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
