NVIDIA, 13 Ekim 2026’da geliştirici blogunda Run:ai platformunun tamamını NVIDIA DSX AI Factory Platform’unun parçası olarak açık kaynak yazılım haline getirdiğini duyurdu. Amaç, yapay zekâ iş yükü ve GPU orkestrasyonuna üretim düzeyinde bir açık temel sunmak; ekosistem ortaklarının farklılaştırılmış çözümleri daha hızlı pazara taşımasını kolaylaştırmak.
Açık kaynak sürüm dört modüler bileşeni de bağımsız benimsemeye olanak tanıyor: KAI Scheduler (GPU farkındalıklı Kubernetes zamanlayıcı), GPU Fractioning Operator (CUDA 13.4 yerli kesirlerle GPU paylaşımı), KAI Resource Management (organizasyonel kota ve hiyerarşi) ve Workload Map (tutarlı iş yükü yönetim sözleşmesi). Kod NVIDIA DSX AI Factory GitHub organizasyonunda; entegre yığın Helm chart ile NVIDIA NGC’de Community Product olarak da sunuluyor. Community Product için ücretli Run:ai aboneliği veya NVIDIA kurumsal destek zorunlu değil; kurumsal destek dahil değil.
Ortaklar ve ticari hat
NVIDIA, Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud ve vCluster’ın açık kaynak platformu kendi tekliflerine entegre ettiğini veya genişlettiğini belirtiyor. Enterprise AI Factory dağıtımları için Run:ai’nin bağımsız ürün, Mission Control, NVIDIA AI Enterprise ve seçili bulut pazar yerleri üzerinden desteklenen ticari teklifleri ayrı sürüyor; lisans ve destek koşulları teklife göre değişiyor.
Bileşenler ne işe yarıyor?
- KAI Scheduler: Çete (gang) zamanlama, adil paylaşım, topoloji farkındalığı ve GPU paylaşımı gibi özellikleri bir araya getiriyor; CNCF Sandbox’a katkılanmış Apache 2.0 projesi olarak anılıyor.
- GPU Fractioning Operator: CUDA 13.4’teki yerli bellek sınırlı kesirleri Kubernetes’e taşıyor; zamanlayıcıdan bağımsız bir entegrasyon katmanı.
- KAI Resource Management: Proje/departman yapısı, kota ve düğüm havuzlarıyla ekip bazlı kapasite yönetimini hedefliyor.
- Workload Map: PyTorchJob, RayCluster, KServe gibi farklı CRD’leri tek sözleşmeyle tanımlayıp gözlemlemeyi amaçlıyor.
KAI Scheduler; gang zamanlama, adil paylaşım, topoloji farkındalığı, MIG/MPS/zaman paylaşımı ve CUDA 13.4 MPS kesirleri ile Dynamic Resource Allocation desteğini bir araya getiriyor. GPU Fractioning Operator, CUDA sürücüsünün bellek sert sınırını Kubernetes’te tüketilebilir hale getiriyor ve pod başına metrik dışa aktarıyor. Workload Map ise Go kütüphanesi olarak küme dışı da çalışabiliyor; yapı tanımlar, zamanlama veya otomatik ölçekleme yapmaz. Model Streamer’ın vLLM ve SGLang’de `--load-format runai_streamer` ile etkinleştirilebildiği; AWS, Google Cloud ve Azure belgelerinde hızlı model yükleme yolu olarak anıldığı belirtiliyor.
İlgili açık kaynak projeler
Model Streamer model ağırlıklarını GPU’ya hızla aktarmayı; Grove ise çok bileşenli çıkarım iş yüklerini orkestre etmeyi hedefliyor. NVIDIA, Run:ai’yi daha önce bünyesine katmıştı; bu duyuruda satın alma bedeli vurgulanmıyor. Açık kaynak hamle, abonelik zorunluluğu olmadan platform koduna bakmayı mümkün kılsa da üretimde kurumsal destek isteyen ekipler için ticari hat ayrı kalıyor.
Açık kaynak lisanslar ilgili depolarda geçerli; NGC Community Product indirmesi NVIDIA yazılım lisans sözleşmesi ve ürün özel koşullarının kabulünü gerektiriyor. Ekipler kodu inceleyip katkıda bulunabilir, üzerine ürün geliştirebilir veya yalnızca ihtiyaç duydukları bileşeni mevcut Kubernetes yığınlarına ekleyebilir.
Grove, Dynamo’nun modüler parçası olarak çok bileşenli ajan ve ayrıştırılmış serving grafiklerini topoloji farkındalıklı ölçekleme ile yönetmeyi amaçlıyor.
Kaynak: NVIDIA
