NVIDIA, 30B Nemotron 3.5 Lightning modelini açık kaynak olarak duyurduNVIDIA announces the 30B Nemotron 3.5 Lightning model as open sourceHabere gitRead the article Türkçe (otomatik çeviri) English (automatic translation) |
ÖzetSummaryNVIDIA, Nemotron 3.5 Lightning'i yayınladı. 30 milyar parametreli bu açık MoE modeli, yalnızca 3 milyar aktif çıkarım parametresine sahip. Model, sürekli çalışan yapay zeka ajanları için tasarlandı ve büyük model yeteneğini küçük model maliyetiyle sunmayı iddia ediyor.NVIDIA has released Nemotron 3.5 Lightning. This open Mixture-of-Experts (MoE) model features 30 billion total parameters but only 3 billion active inference parameters. Designed for continuously running AI agents, it claims to deliver large-model capabilities at small-model costs. |
Neden ÖnemliWhy it mattersAjansal yapay zeka iş yükleri 7/24 çalışmaya kaydıkça, çıkarım maliyeti ve gecikme belirleyici kısıt haline geliyor. Bu modelin MoE + spekülatif çözümleme + niceleme yığını, bu soruna doğrudan bir mühendislik yanıtı. Ağırlıklar, eğitim verileri ve eğitim tariflerinin Hugging Face üzerinde OpenMDW-1.1 lisansı altında yayınlanması, modeli ince ayar yapmak veya denetlemek isteyen ekiplerin önündeki engeli düşürüyor.As agentic AI workloads shift to 24/7 operation, inference cost and latency have become critical constraints. This model’s stack of MoE, speculative decoding, and quantization serves as a direct engineering response to these challenges. Furthermore, publishing the weights, training data, and training recipes on Hugging Face under the OpenMDW-1.1 license lowers the barrier for teams looking to fine-tune or audit the model. |
Öne ÇıkanlarHighlights
|
EleştiriCritical takeBaşlıca kıyaslama (Artificial Analysis'ta 24 puan, OpenAI'nin gpt-oss-120b ile karşılaştırıldı) tek bir üçüncü taraf endeksinden ve kendi kendine seçilmiş bir karşılaştırmadan geliyor. Önceki Nemotron 3 Nano'ya göre 9 puanlık artış mütevazı. Makale, bağımsız tekrar veya ablatasyon içermeyen bir basın bülteni özeti niteliğinde. Bu nedenle 'küçük model maliyeti, büyük model yeteneği' iddiası, NVIDIA'nın kendi çerçevesi dışında doğrulanmamış durumda.The primary benchmark (24 points on Artificial Analysis, compared against OpenAI's gpt-oss-120b) comes from a single third-party index and a self-selected comparison. The 9-point increase over the previous Nemotron 3 Nano is modest. The article reads like a press release summary lacking independent replication or ablation studies. Consequently, the claim of 'small-model cost, big-model capability' remains unverified outside of NVIDIA’s own framework. |