NVIDIA, 30B Nemotron 3.5 Lightning modelini açık kaynak olarak duyurduNVIDIA announces the 30B Nemotron 3.5 Lightning model as open source

ÖzetSummary

NVIDIA, Nemotron 3.5 Lightning'i yayınladı. 30 milyar parametreli bu açık MoE modeli, yalnızca 3 milyar aktif çıkarım parametresine sahip. Model, sürekli çalışan yapay zeka ajanları için tasarlandı ve büyük model yeteneğini küçük model maliyetiyle sunmayı iddia ediyor.

Neden ÖnemliWhy it matters

Ajansal yapay zeka iş yükleri 7/24 çalışmaya kaydıkça, çıkarım maliyeti ve gecikme belirleyici kısıt haline geliyor. Bu modelin MoE + spekülatif çözümleme + niceleme yığını, bu soruna doğrudan bir mühendislik yanıtı. Ağırlıklar, eğitim verileri ve eğitim tariflerinin Hugging Face üzerinde OpenMDW-1.1 lisansı altında yayınlanması, modeli ince ayar yapmak veya denetlemek isteyen ekiplerin önündeki engeli düşürüyor.

Öne ÇıkanlarHighlights

• MoE yönlendirmesiyle 30 milyar toplam parametrenin 3 milyar aktif parametresi
• İddia edilen ~670 token/sn çıktı hızı, aynı boyuttaki rakiplere karşı liderlik iddiası
• Tamamen açık yayın: OpenMDW-1.1 lisansı altında ağırlıklar + eğitim verileri + tarifler

EleştiriCritical take

Başlıca kıyaslama (Artificial Analysis'ta 24 puan, OpenAI'nin gpt-oss-120b ile karşılaştırıldı) tek bir üçüncü taraf endeksinden ve kendi kendine seçilmiş bir karşılaştırmadan geliyor. Önceki Nemotron 3 Nano'ya göre 9 puanlık artış mütevazı. Makale, bağımsız tekrar veya ablatasyon içermeyen bir basın bülteni özeti niteliğinde. Bu nedenle 'küçük model maliyeti, büyük model yeteneği' iddiası, NVIDIA'nın kendi çerçevesi dışında doğrulanmamış durumda.