Büyük dil modelleri, kurumsal veride ölçeklenebilir anlık analizi otomatikleştiriyorBatchDAG: LLM-Planned Execution Graphs for Scalable Ad-Hoc Analysis Over Enterprise DataHabere gitRead the article Türkçe (otomatik çeviri) English (automatic translation) |
ÖzetSummaryBatchDAG, SQL, anlamsal arama, bellek içi dönüşümler ve paralel dallanma gibi tipli işlemlerden oluşan, LLM tarafından planlanan yönlü döngüsüz bir graf (DAG) öneriyor. Bu grafi deterministik bir motor, topolojik dalga paralelliğiyle yürütüyor. Sistem, sıralı LLM araç çağrılarının yetersiz kaldığı, kurumsal ölçekteki veri kümeleri üzerinde varlıklar arası analitik sorgulara odaklanıyor.BatchDAG proposes a directed acyclic graph (DAG) of typed operations—such as SQL, semantic search, in-memory transformations, and parallel branching—planned by an LLM. This graph is executed by a deterministic engine using topological wave parallelism. The system focuses on cross-asset analytical queries over enterprise-scale datasets, addressing the limitations of sequential LLM tool calls. |
Neden ÖnemliWhy it mattersKurumsal analitik ekipleri, tek bir LLM'ün belge düzeyindeki çıkarımları ile on binlerce kayıt üzerinde kapsamlı, çoklu varlık sorguları yapma ihtiyacı arasındaki boşlukla sürekli karşılaşıyor. BatchDAG, varlık farkında kesikli işleme (LLM çağrılarını en fazla 47 kat azaltma) ve 50 binden fazla toplantıda 60 saniyenin altındaki gecikme süresi ile sorgu başına 0,02–0,24 dolar maliyet sunuyor. Bu özellikler, sistemi bir araştırma merakı olmaktan çıkarıp pratikte devreye alınabilir bir orkestrasyon katmanına dönüştürüyor. Ayrıca LLM'ün rolünü 'cevaplayan'dan 'planlayıcı'ya kaydırıyor. Bu yaklaşım, üretim yapay zeka sistemlerinin yöneldiği noktayla uyumlu.Enterprise analytics teams constantly face the gap between a single LLM’s document-level inferences and the need for comprehensive, multi-asset queries over tens of thousands of records. BatchDAG offers asset-aware chunked processing (reducing LLM calls by up to 47x) and sub-60-second latency across 50,000+ meetings, with a cost of $0.02–$0.24 per query. These features transform the system from a research curiosity into a deployable orchestration layer in practice. Additionally, it shifts the LLM’s role from 'responder' to 'planner,' aligning with the direction of production AI systems. |
Öne ÇıkanlarHighlights
|
EleştiriCritical takeBaşlıca karşılaştırma yalnızca n=12 sorguya dayanıyor. %27'lik halüsinasyon azalması iddiasının p-değeri 0,107. Bu değer, geleneksel 0,05 eşiğinin oldukça üzerinde. Dolayısıyla yazarlar, istatistiksel olarak anlamsız bir etkiyi bir bulgu olarak raporluyor. Ayrıca 'uzman tasarımı boru hattı' taban çizgisi, makalenin kendisi tarafından oluşturulmuş. Makalenin kendi çerçevesi ('temel olarak bir doğruluk iyileştirmesi değil'), asıl katkının hazır bir LLM etrafında mühendislik orkestrasyonu olduğunu kabul ediyor. Bu durum, bilimsel yeniliği DAG planlaması ve kesikli işleme heuristikleriyle sınırlıyor.The main comparison relies on only n=12 queries. The p-value for the claimed 27% hallucination reduction is 0.107, which is well above the traditional 0.05 threshold. Consequently, the authors report a statistically insignificant effect as a finding. Furthermore, the 'expert-designed pipeline' baseline was created by the paper itself. The paper’s own framing ('not primarily an accuracy improvement') acknowledges that the main contribution is engineering orchestration around an off-the-shelf LLM. This limits the scientific novelty to DAG planning and chunked processing heuristics. |