K-Search, CUDA deneyimini Apple Silicon’da MLX’e taşıyarak on yıllık çekirdek uzmanlığını getiriyorFrom CUDA to MLX: K-Search Brings Decades of Kernel Expertise to Apple Silicon

ÖzetSummary

K-Search, evrimsel bir arama ve yapılandırılmış çeviri katmanı aracılığıyla Apple Silicon'un MLX çerçevesine onlarca yıllık CUDA çekirdek uzmanlığını uyarlayarak uzman seviyesine yakın bir performans elde ediyor.K-Search achieves near-expert performance by adapting decades of CUDA kernel expertise to Apple Silicon's MLX framework through an evolutionary search and structured translation layer.

Neden ÖnemliWhy it matters

Yapay zekâ iş yükleri donanım satıcıları arasında çeşitlendikçe, kanıtlanmış CUDA optimizasyonlarını Apple Silicon'a taşıyarak yerel çıkarımı hızlandırıyor ve hızla benimsenen MLX ekosistemindeki performans boşluğunu kapatıyor.As AI workloads diversify across hardware vendors, porting proven CUDA optimizations to Apple Silicon accelerates native inference and closes the performance gap in the rapidly adopted MLX ecosystem.

Öne ÇıkanlarHighlights

• Sıfırdan yeniden inşa etmek yerine mevcut çekirdekleri yeniden kullanarak CUDA'dan MLX'e yeni bir çeviri katmanı.Instead of rebuilding from scratch, it reuses existing kernels by adding a new translation layer from CUDA to MLX.
• Bir dünya modeli ve LLM (Gemini 3.5 Pro) kullanan evrimsel bir arama çerçevesiyle çekirdekleri yinelemeli olarak iyileştiriyor.It iteratively refines kernels using an evolutionary search framework powered by a world model and LLM (Gemini 3.5 Pro).
• Performans kazançları: Yerel MLX dikkat mekanizmasına göre %97 hız artışı ve Mamba SSM çekirdeklerinde ön doldurma sürecinde 20 katına kadar hız artışı.Performance gains: 97% speed increase over the native MLX attention mechanism and up to a 20× boost in prefill for Mamba SSM kernels.

EleştiriCritical take

Bu yaklaşım tek bir büyük dil modeline (LLM) yoğun bir şekilde dayanıyor ve tüm donanım‑özel nüansları yakalayamayabilir; bu da gösterilen örneklerin ötesinde çeşitli çekirdeklerde ölçeklenebilirliği konusunda soru işaretleri yaratıyor.The approach heavily relies on a single large language model (LLM) and may not capture all hardware-specific nuances, raising questions about its scalability across diverse kernels beyond the presented examples.