Açık model çıkarım pazarının büyüklüğü ölçüldüSize of the open model inference market measured

ÖzetSummary

Nathan Lambert'in ücretli araştırma notu, Baseten, Fireworks, Together AI ve OpenRouter'ın token hacmi açıklamalarını takip ederek açık model çıkarım pazarını nicel olarak ölçmeye çalışıyor. Not, bu rakamları Google'ın kamuya açık API token hacimleri ile kıyaslamayı öneriyor. Ücretsiz önizleme, açık model çıkarım girişimlerinde neredeyse üstel bir büyüme gösterse de asıl karşılaştırma grafiğini ödeme duvarının arkasında tutuyor.Nathan Lambert's paid research note attempts to quantitatively measure the open model inference market by tracking token volume disclosures from Baseten, Fireworks, Together AI, and OpenRouter. The note suggests comparing these figures with Google's publicly available API token volumes. While the free preview indicates near-exponential growth in open model inference startups, the primary comparison chart is kept behind a paywall.

Neden ÖnemliWhy it matters

Açık model çıkarım ekonomisi genellikle niteliksel ve abartılı ifadelerle tartışılıyor. Bu pazarın kapalı model sağlayıcılarına göre büyüklüğünü sistematik bir şekilde ölçen çalışmalar son derece sınırlı. Açık model çıkarımı hâlâ OpenAI ve Anthropic'e kıyasla ihmal edilebilir bir paya sahipse, bu durum yatırım tezlerini, model açıklığına ilişkin politika tartışmalarını ve hiperscalerlerin model portföylerindeki stratejik konumlandırmayı doğrudan etkiler.The open model inference economy is typically discussed in qualitative and exaggerated terms. There are extremely few studies that systematically measure the size of this market relative to closed model providers. If open model inference still holds a negligible share compared to OpenAI and Anthropic, this directly impacts investment theses, policy debates regarding model openness, and the strategic positioning of model portfolios by hyperscalers.

Öne ÇıkanlarHighlights

• Fireworks, yalnızca özelleştirilmiş modeller için günde 40 trilyon token'dan fazla işlem yaptığını bildirdi. Bu dikey, yaz aylarından bu yana iki katına çıktı ve toplam işleme kapasitesinin 100 trilyon token'ın çok üzerinde olduğunu gösteriyor.Fireworks reported processing over 40 trillion tokens per day for customized models alone. This vertical has doubled since the summer, indicating a total processing capacity well above 100 trillion tokens.
• Yazar, mevcut tüm açık model benimsenme metriklerinin 'son derece imzasız' olduğunu açıkça belirtiyor. Bu metrikler gürültülü platform istatistiklerine, girişim pazarlama rakamlarına ve eksik kamuya açık değerlendirmelere dayanıyor.The author explicitly states that all current open model adoption metrics are 'extremely noisy.' These metrics rely on noisy platform statistics, startup marketing figures, and incomplete public evaluations.
• Hiperscalerler (Amazon Bedrock, Azure) muhtemelen önemli açık model çıkarım oyuncularından olsa da, kullanım verilerini model kategorisine göre ayrıntılı olarak paylaşmadıkları için ölçüme dahil edilmiyor.Although hyperscalers (Amazon Bedrock, Azure) are likely major players in open model inference, they are excluded from the measurement because they do not share usage data in detail by model category.

EleştiriCritical take

Notun temel sorusu, açık model çıkarımının OpenAI ve Anthropic'e göre ihmal edilebilir bir paya sahip olup olmadığı. Ancak ücretsiz metinde bu soruya asla yanıt verilmiyor. Karşılaştırma grafiği ödeme duvarının arkasında olduğu için kamuya açık bölüm neredeyse tamamen bir veri tanıtımından ibaret. Ölçüm, yazarın kendisinin 'pazarlamayla ilgili' dediği üç girişimin kendi bildirdiği hacimlere ve bir toplayıcıya dayanıyor. Oysa en büyük açık model çıkarım kanalları olan hiperscaler bulutları ölçüme dahil edilmiyor. Bu nedenle 'neredeyse üstel büyüme' anlatısı, gerçek pazar payını abartıyor olabilir.The core question of the note is whether open model inference holds a negligible share compared to OpenAI and Anthropic. However, the free text never answers this question. Since the comparison chart is behind a paywall, the public section is almost entirely a data teaser. The measurement relies on self-reported volumes from three startups—which the author himself calls 'marketing-related'—and one aggregator. Meanwhile, hyperscaler clouds, which are the largest channels for open model inference, are excluded from the measurement. Therefore, the narrative of 'near-exponential growth' may be overstating actual market share.