Arena analizi: Önbellek, ajan görev maliyetini en fazla 3,6 kat düşürüyorArena analysis: Caching reduces agent task costs by up to 3.6x

ÖzetSummary

Arena.ai, 30 ajan ve 13 laboratuvar üzerinden 26.225 ajan oturumunu analiz etti. Çalışma, artık giriş fiyatının yüzde 2-5'ine kadar indirilen istem önbellekleme (prompt caching) sayesinde tipik ajan görev maliyetlerinin 3,6 katına kadar düştüğünü gösteriyor. En ağır görevlerde, sınır modellerde (frontier models) tek çalıştırma başına yaklaşık 665 dolar tasarruf sağlanıyor. Araştırma ayrıca önbellek geçersiz kılma (cache invalidation) maliyetini de sayısallaştırıyor. Bu gizli vergi, modele ve oturum uzunluğuna göre görev faturasına yüzde 5-42 ekleyebiliyor.Arena.ai analyzed 26,225 agent sessions across 30 agents and 13 labs. The study shows that typical agent task costs have dropped by up to 3.6x due to prompt caching, which is now priced as low as 2-5% of the entry rate. For the heaviest tasks, this saves approximately $665 per run on frontier models. The research also quantifies the cost of cache invalidation, a hidden tax that can add 5-42% to the task bill depending on the model and session length.

Neden ÖnemliWhy it matters

Ajan iş yüklerinin büyük bölümü, önceki bağlamı yeniden okumadan oluşuyor. Bu işlem, tüm tokenların yüzde 86-96'sını kapsıyor. Bu nedenle ajan ekonomisi, sağlayıcıların önbellekten okuma işlemlerini ne kadar ucuza sunacağına neredeyse tamamen bağlı. Laboratuvarlar önbellek fiyatlarını neredeyse sıfıra yaklaştırıyor. DeepSeek yüzde 2, sınır laboratuvarlar ise yüzde 5 ve altında oranlar uyguluyor. Bu durum, uzun ve çok adımlı ajan döngülerinin marjinal maliyetini çökertiyor. Bu da ölçekli devrinin (delegation) maliyet açısından uygulanabilir olup olmadığını doğrudan belirliyor. Geçersiz kılma maliyetlerini anlamak da en az bunun kadar kritik. Uzun bir sohbet akışında tek bir önbellek kaçağı, tasarrufların büyük kısmını silebilir. Bu yüzden önbellek TTL'si ve kararlılığı, ajan geliştiriciler için birincil tasarım kaygısı olmalı.The majority of agent workloads consist of re-reading previous context, accounting for 86-96% of all tokens. Consequently, the agent economy relies almost entirely on how cheaply providers offer cache reads. Labs are bringing cache prices close to zero, with DeepSeek at 2% and frontier labs at 5% or below. This collapses the marginal cost of long, multi-step agent loops, directly determining whether scaled delegation is cost-effective. Understanding invalidation costs is equally critical; a single cache miss in a long chat flow can erase much of the savings. Therefore, cache TTL and stability should be primary design concerns for agent developers.

Öne ÇıkanlarHighlights

• Önbellek indirimi, 2024 başındaki yüzde 0'dan 2026'daki yüzde 95'e yükseldi. Sınır modeller artık önbellekten okuma işlemleri için giriş fiyatının yüzde 5'ine, DeepSeek ise yüzde 2'sine kadar ücret alıyor.Cache discounts have risen from 0% in early 2024 to 95% in 2026. Frontier models now charge as little as 5% of the entry price for cache reads, while DeepSeek charges as low as 2%.
• Ajan tokenlarının yüzde 86-96'sı yeniden okumalardan oluşuyor. Ajanlar, ürettikleri her 1 token için yaklaşık 93 token yeniden okuyor. Bu durum, önbellekleme tek en büyük maliyet kaldıracı haline getiriyor.86-96% of agent tokens are re-reads. Agents re-read approximately 93 tokens for every 1 token they generate, making caching the single biggest cost lever.
• Tek bir önbellek geçersiz kılma, tipik bir göreve yaklaşık yüzde 5 ekliyor. Ancak 10 oturumdan 1'inde bu oran yüzde 13-21'i, uzun Claude Fable 5.1 akışlarında ise yüzde 42'ye kadar çıkabiliyor.A single cache invalidation adds about 5% to a typical task. However, in 1 out of 10 sessions, this rate reaches 13-21%, and it can go up to 42% in long Claude Fable 5.1 flows.

EleştiriCritical take

Analiz yalnızca Agent Arena oturumları ve liste fiyatlarıyla sınırlı. Bu nedenle, halihazırda hacim indirimleri müzakere eden ekipler için tasarrufları abartıyor. Yüksek geçersiz kılma oranına sahip iş yükleri için ise tasarrufları düşük gösteriyor. Örneğin, uzun dış çağrıları içeren araç ağırlıklı döngüler bu duruma giriyor. Çerçeve ayrıca önbelleklemeyi salt bir maliyet meselesi olarak ele alıyor. Agresif TTL kısaltmalarının veya sağlayıcı tarafındaki yük altındaki önbellek atımlarının ajan tutarlılığını sessizce bozup bozmadığı sorusunu görmezden geliyor. Veriler bu ihtimali ima ediyor ancak bunu izole etmiyor.The analysis is limited to Agent Arena sessions and list prices. As a result, it overstates savings for teams already negotiating volume discounts and understates them for workloads with high invalidation rates, such as tool-heavy loops involving long external calls. The framework also treats caching purely as a cost issue, ignoring whether aggressive TTL shortening or provider-side cache evictions under load silently break agent consistency. The data hints at this possibility but does not isolate it.