NVIDIA, NVLink Fusion'a NVHBM yüksek bant genişlikli belleği eklediNVIDIA adds NVHBM high-bandwidth memory to NVLink Fusion

ÖzetSummary

NVIDIA, NVLink Fusion bağlantı platformunu NVHBM ile genişletti. Bu yüksek bant genişlikli bellek varyantı, bellek denetleyicisini XPU çipinden HBM taban çipine taşıyor. Şirket, HBM4E'ye kıyasla bant genişliğinde yüzde 30'a varan, hesaplama çipi alanındaysa yüzde 25'e varan artış iddia ediyor. Amazon'un Annapurna Labs birimi, NVHBM'i NVIDIA'nın raf ölçeğinde mimarisindeki Trainium4 çiplerine entegre eden ilk isim olarak öne çıkıyor.

Neden ÖnemliWhy it matters

Trilyon parametreli ve ajansal yapay zeka iş yüklerinde bellek bant genişliği ve güç tüketimi baskın darboğazlar oluşturuyor. Bu nedenle denetleyiciyi hesaplama çipinden çıkarmak, yapısal açıdan anlamlı bir verimlilik kazancı sağlıyor. Stratejik açıdan bakıldığında bu hamle, NVIDIA'nın raf ölçeğinde bağlantı katmanındaki hakimiyetini derinleştiriyor. Kendi XPU'larını geliştiren hipereölçekli firmalar bile bu alanda yer almak için NVIDIA'nın bellek arayüzünü ve anahtarlama altyapısını benimsemek zorunda. Bu durum, adı üstünde açık olan ancak pratikte sıkı sıkıya bağlı bir 'seç ve kullan' ekosistemini pekiştiriyor.

Öne ÇıkanlarHighlights

• Bellek denetleyicisi 3D HBM yığınına taşınarak XPU çip alanının yüzde 25'ine varan kısmı hesaplama için boşaltılıyor
• Amazon Annapurna Labs, NVHBM'in ilk iş ortağı olarak bu teknolojiyi ortak raf ölçeğinde tasarımda Trainium4 ile eşleştiriyor
• NVIDIA, NVHBM'i özel XPU tasarımcıları için onay süreçlerindeki yükü azaltmak amacıyla çoklu tedarikçi bir 'standart' olarak konumlandırıyor

EleştiriCritical take

Başlıktaki her rakam 'en fazla' ifadesiyle nitelendiriliyor. Yüzde 30 bant genişliği ve yüzde 15 güç tüketimi verileri, kontrollü bir iş yükü veya karşılaştırma taban değeri olmadan sunuluyor. Bu durum bağımsız doğrulamayı zorlaştırıyor. 'Yatay olarak açık' çerçevesi de mercek altına alınmayı hak ediyor. NVHBM'i NVLink Fusion'un raf ölçeğinde avantajları için bir ön koşul haline getirerek NVIDIA, en büyük müşterileri arasında doğrudan rakibi AWS de dahil olmak üzere, bellek arayüzü tercihini fiilen bir ekosistem kilidine dönüştürüyor.