![]() Science One Framework, yapay zeka araştırmalarında kanıt zinciriyle halüsinasyonları ortadan kaldırıyorScience One Framework: A verifiable autonomous research framework via Chain-of-EvidenceHabere gitRead the article Türkçe (otomatik çeviri) English (automatic translation) |
ÖzetSummaryGoogle Research, Science One Framework adlı otonom araştırma prototipini tanıttı. Sistem, doğrulanabilir kanıt zincirlerini (Chain-of-Evidence) doğrudan işlem hattına yerleştiriyor. Şirket, bu sayede hayalet referans oranının sıfır olduğunu ve puanların tamamen yeniden üretilebilir olduğunu iddia ediyor. Karşılaştırma yapılan temel sistemlerde ise halüsinasyona dayalı alıntı oranı %21'e kadar çıkabiliyor.Google Research introduced Science One Framework, an autonomous research prototype. The system integrates verifiable chains of evidence directly into the processing pipeline. The company claims this results in a zero rate of hallucinated references and fully reproducible scores. In contrast, baseline systems compared in the study exhibit hallucinated citation rates of up to 21%. |
Neden ÖnemliWhy it mattersBüyük dil modeli (LLM) ajanları giderek daha fazla tam bilimsel makale taslağı hazırlıyor. Metin, kod ve sonuçların sessizce birbirinden ayrıştığı doğrulanabilirlik boşluğu, araştırma kayıtlarını büyük ölçekte zehirleme riski taşıyor. Yapılandırılmış ve denetlenebilir bir kanıt zinciri protokolü, yapay zekâ tarafından üretilen her makale için fiilen standart haline gelebilir. Bu durum, yükü sonradan yapılan gerçeklik denetiminden, tasarım aşamasında sağlanan bütünlüğe kaydırıyor. Bu gelişme, yeniden üretilebilirlik, hakem değerlendirmesi ve yapay zekâ destekli bilimin güvenilirliği açısından önemli.Large language model (LLM) agents are increasingly drafting complete scientific papers. The verifiability gap, where text, code, and results silently diverge, poses a risk of poisoning research records on a large scale. A structured and auditable chain-of-evidence protocol could effectively become the standard for every AI-generated paper. This shifts the burden from post-hoc reality checks to integrity ensured at the design stage. This development is significant for reproducibility, peer review, and the reliability of AI-assisted science. |
Öne ÇıkanlarHighlights
|
EleştiriCritical takeSistem, tek bir laboratuvardan gelen açık bir 'deneysel araştırma prototipi' olarak konumlandırılıyor. Sıfır halüsinasyon sonucu, ilgili literatürün Semantic Scholar API tarafından kapsanmasına bağlı. Bu kısıt, ön baskılar, ücretli erişim gerektiren veya çok yeni çalışmalar için sessizce işlevini yitiriyor. Ayrıca 'muhafazakâr yeniden ifade' uzlaştırma adımı, doğrulayıcıdan geçen ancak ince detaylarda yanıltıcı olabilecek iddialar üretebiliyor. Bu nedenle 'doğrulanabilirlik', bilimsel güvenilirlik için gerekli ama yeterli bir koşul değil.The system is positioned as an open 'experimental research prototype' from a single laboratory. The zero-hallucination result depends on the relevant literature being covered by the Semantic Scholar API. This limitation silently fails for preprints, paywalled, or very recent studies. Furthermore, the 'conservative rephrasing' reconciliation step can produce claims that pass verification but may be misleading in fine details. Therefore, 'verifiability' is a necessary but not sufficient condition for scientific reliability. |
