Yang Likun'un LeWM'i Tek GPU'da Eğitilebilen En Hafif Dünya ModeliYang Likun releases the lightest world model ever, trainable on a single GPU, planning speed increased 48x

ÖzetSummary

Yann LeCun'ın ekibi, LeWM adlı 15 milyon parametreli, JEPA tabanlı bir dünya modeli tanıttı. Model, tek bir GPU üzerinde saatler içinde, ham piksellerden uçtan uca ve kararlı bir şekilde eğitiliyor. Sadece bir etkin hiperparametre ve temsil çökmesini önleyen SIGReg düzenleyicisi kullanılıyor. Blok itme görevlerinde PLDM'ye kıyasla planlamada 48 kata kadar hızlanma ve başarı oranında yüzde 18 artış raporlanıyor.Yann LeCun's team introduced LeWM, a 15-million-parameter, JEPA-based world model. The model is trained end-to-end and stably from raw pixels on a single GPU within hours. It uses only one active hyperparameter and the SIGReg regularizer to prevent representation collapse. In block-pushing tasks, it reports up to a 48x speedup in planning and an 18% increase in success rate compared to PLDM.

Neden ÖnemliWhy it matters

Dünya modelleri, robotların eylemden önce sonuçları simüle ederek plan yapabilmesi için eksik parça olarak kabul ediliyor. Ancak önceki JEPA yaklaşımları temsil çökmesi, altıdan fazla hiperparametre ve büyük önceden eğitilmiş kodlayıcılara bağımlılık sorunlarıyla karşı karşıya kaldı. Tüketicinin donanımında, minimal ayar gerektiren ve gerçekten eğitilebilir bir model, araştırmayı demokratikleştirebilir. Bu sayede vücutlu yapay zekâ prototipleme, iyi finanse edilen laboratuvarların çok ötesine taşınabilir.World models are considered the missing piece for enabling robots to plan by simulating outcomes before acting. However, previous JEPA approaches faced issues such as representation collapse, reliance on six or more hyperparameters, and dependency on large pre-trained encoders. A model that is truly trainable with minimal tuning on consumer hardware could democratize research. This would allow prototyping embodied AI to move far beyond well-funded laboratories.

Öne ÇıkanlarHighlights

• 15 milyon parametre, 2 bileşen, 2 kayıp terimi, 1 ayarlanabilir hiperparametre — tek GPU üzerinde saatler içinde eğitim15 million parameters, 2 components, 2 loss terms, 1 tunable hyperparameter — training on a single GPU within hours
• SIGReg düzenlemesi, ampirik hilelere gerek kalmadan temsil çökmesini ortadan kaldırıyor; eğri eğrileri tüm tohumlarda pürüzsüz ve tekrarlanabilirSIGReg regularization eliminates representation collapse without empirical hacks; curves are smooth and reproducible across all seeds
• Saf piksel tabanlı LeWM, blok itmede propriyosepsiyonu birleştiren DINO-WM'den daha iyi performans gösteriyor ve önceki JEPA tabanlı yöntemlere kıyasla planlamada 48 kata kadar daha hızlı çalışıyorPure pixel-based LeWM outperforms DINO-WM, which integrates proprioception, in block-pushing tasks and operates up to 48x faster in planning compared to previous JEPA-based methods

EleştiriCritical take

Kıyaslama seti, LeWM'in navigasyonda geleneksel yöntemlerin gerisinde kaldığı ve hâlâ açık etki etiketleri gerektirdiği oyuncak 2D navigasyon ve blok itme görevleriyle sınırlı. Bu nedenle 'fizik anlıyor' anlatısı, açık dünya genelleme yerine tek bir ışınlanma-renk değişimi testine dayanıyor. Metin, arXiv makalesinin tanıtım diliyle ('en etkileyici olan', 'niteliksel sıçrama') yeniden işlenmiş bir özeti sunuyor. Bağımsız bir yeniden üretim yok. Bu yüzden 48 kat hızlanma ve yüzde 18 artış iddiaları, üçüncü taraf doğrulaması gelene kadar tek laboratuvar, tek görev iddiaları olarak değerlendirilmeli.The benchmark set is limited to toy 2D navigation and block-pushing tasks, where LeWM lags behind traditional methods in navigation and still requires explicit effect labels. Therefore, the narrative that it 'understands physics' relies on a single teleportation-color-change test rather than open-world generalization. The text presents a reprocessed summary using the promotional language of the arXiv paper ('most impressive', 'qualitative leap'). There is no independent reproduction. Consequently, the claims of a 48x speedup and 18% increase should be treated as single-laboratory, single-task assertions until third-party verification is available.