NTT, Küçük LLM tsuzumi 2 ile Japonca Yapay Zeka Performansını YükseltiyorNTT Boosts Japanese AI Performance with Small LLM tsuzumi 2

ÖzetSummary

NTT'nin tsuzumi 2 modeli, sıfırdan geliştirilen 28 milyar parametreli bir yoğun (Dense) büyük dil modeli (LLM)dir. Model, Japonca iş süreçleri ve tek GPU üzerinde çıkarım için optimize edilmiştir. Daha büyük yabancı modellere karşı veri egemenliği sağlayan bir alternatif olarak konumlandırılmaktadır. tsuzumi 2, özel bir morfolojik tokenleştirici, 10 trilyon token üzerinde ön eğitim ve M-ifeval'da güçlü Japonca talimat uyum puanları sunmaktadır.

Neden ÖnemliWhy it matters

Japon şirketleri için, iç verilerini yabancı bulut sağlayıcılarına açmadan yetenekli bir LLM'i yerinde (on-premises) çalıştırabilmek pratik ve yasal bir zorunluluktur. ABD ve AB merkezli daha büyük modeller bu ihtiyacı tam olarak karşılamamaktadır. Tek GPU'da devreye alınabilen 28B yoğun mimari, modeli orta ölçekli kurumsal ortamlarda gerçekten kullanılabilir kılmaktadır. Bu sayede hipere ölçekli altyapıya ihtiyaç duyulmamaktadır. NTT'nin token verimli Japonca işleme vurgusu, belge özetleme ve toplantı notu oluşturma gibi yüksek hacimli iş akışlarında çıkarım maliyetini doğrudan düşürmektedir.

Öne ÇıkanlarHighlights

• Yerinde çıkarım için tek GPU'ya sığacak şekilde tasarlanmış 28B yoğun (MoE olmayan) model
• Token sayısını ve maliyeti düşürmek için onlarca yıllık morfolojik analiz araştırmalarına dayanan özel Japonca tokenleştirici
• 10 trilyon token üzerinde eğitildi; Japonca talimat uyumu (M-ifeval) ve biçim uyumu görevlerinde karşılaştırma modellerini geride bıraktı
• Eğitim altyapısı: Kararlı ve hata toleranslı ince ayar döngüleri için AWS H100 kümeleri + SageMaker HyperPod
• İlgili araştırmalar: VDocRAG (görsel belge RAG), ToMATO duygu anlama kıyaslaması, Taşınabilir Ödül Ayarı, Wavelet Konumsal Kodlama

EleştiriCritical take

Bu metin, bir AWS Summit ana konuşmasının yeniden yapılandırılmış bir transkripti niteliğindedir. Bu nedenle bağımsız bir analizden çok, satıcı odaklı bir pazarlama içeriği gibi okunmaktadır. Metinde üçüncü taraf kıyaslamaları, kamuya açık model ağırlıkları veya API erişimi bulunmamaktadır. Benzer veya daha büyük ölçeklerdeki açık ağırlıklı rakiplerle (ör. Llama, Qwen) başa baş bir karşılaştırma da sunulmamaktadır. 'Egemen yapay zeka' anlatısı Japon tedarik süreçleri için ikna edici olabilir. Ancak şeffaf ve tekrarlanabilir bir değerlendirme olmadan bu durum, kanıtlanmış bir avantajdan çok yalnızca bir iddia olarak kalmaktadır.