TypeSafe AI, Jev adlı karar modelini tanıttıTypeSafe AI introduces Jev, a new shape of LLM known as System One, aka Decision ModelsHabere gitRead the article Türkçe (otomatik çeviri) English (automatic translation) |
ÖzetSummaryTypeSafe AI, Jev adlı 'karar modelini' piyasaya sürdü. Model, metin girdisi kabul ediyor ve üretilmiş metin yerine tiplemiş olasılıksal çıktılar (evet/hayır puanları, kategori seçimleri, sayısal değerlendirmeler) döndürüyor. Girdi başına maliyet milyon token için yalnızca 0,042 dolar; çıktı ise ücretsiz.TypeSafe AI has launched 'Jev,' a decision model. The model accepts text input and returns typed probabilistic outputs (yes/no scores, category selections, numerical ratings) instead of generated text. The cost per input is just $0.042 per million tokens; output is free. |
Neden ÖnemliWhy it mattersJev, büyük dil modellerini (LLM) metin üreticileri yerine sınıflandırma ve puanlama işlevleri olarak yeniden konumlandırıyor. Bu yaklaşım, spam filtreleme, arama yeniden sıralama ve önceliklendirme gibi yüksek hacimli görevleri çok daha ucuz ve hızlı hale getirebilir. Paralel soru değerlendirmesi ve sıfır çıktı maliyeti, temel modellerin üzerine yapılandırılmış karar hatları kuran ekiplerin çalışma biçimini kökten değiştirebilir.Jev repositions large language models (LLMs) as classification and scoring functions rather than text generators. This approach can make high-volume tasks like spam filtering, search re-ranking, and prioritization significantly cheaper and faster. Parallel question evaluation and zero output cost could fundamentally change how teams build structured decision pipelines on top of base models. |
Öne ÇıkanlarHighlights
|
EleştiriCritical takeWillison, şeffaflıktan yoksun, opak siyah kutu puanlamaya geri dönüşün rahatsız edici olduğunu vurguluyor. Modelde açıklanabilirlik ya da gerekçelendirme yok; yalnızca bir ondalık sayı var. Bu durum, akıl yürütmeye yönlendirebileceğiniz metin üreten bir LLM'e kıyasla önyargı denetimi ve güven inşasını çok daha zor hale getiriyor. Şehir sıralaması örneği (Cupertino en üstte, East Palo Alto en altta) küçük ama çarpıcı bir hatırlatma: 'Ucuz ve hızlı', 'adil' anlamına gelmiyor.Willison highlights that the return to opaque, black-box scoring lacking transparency is unsettling. The model offers no explainability or reasoning; there is only a decimal number. This makes bias auditing and trust-building much harder compared to a text-generating LLM that you can guide through its reasoning. The city ranking example (Cupertino at the top, East Palo Alto at the bottom) is a small but striking reminder: 'cheap and fast' does not mean 'fair.' |