No. 13
2026-07-31
yapay zeka nabzı — ham değil, demlenmişthe AI pulse — brewed, not raw
 AI KRİTİKAI CRITIQUE
Google Research logosu 'Google' ve 'Research' kelimelerini, bir drone, uydu ve orman görüntüsüyle birlikte gösteriyor.

Science One Framework, yapay zeka araştırmalarında kanıt zinciriyle halüsinasyonları ortadan kaldırıyorScience One Framework: A verifiable autonomous research framework via Chain-of-Evidence

Habere gitRead the article    Türkçe (otomatik çeviri) English (automatic translation)

ÖzetSummary

Google Research, Science One Framework adlı otonom araştırma prototipini tanıttı. Sistem, doğrulanabilir kanıt zincirlerini (Chain-of-Evidence) doğrudan işlem hattına yerleştiriyor. Şirket, bu sayede hayalet referans oranının sıfır olduğunu ve puanların tamamen yeniden üretilebilir olduğunu iddia ediyor. Karşılaştırma yapılan temel sistemlerde ise halüsinasyona dayalı alıntı oranı %21'e kadar çıkabiliyor.Google Research introduced Science One Framework, an autonomous research prototype. The system integrates verifiable chains of evidence directly into the processing pipeline. The company claims this results in a zero rate of hallucinated references and fully reproducible scores. In contrast, baseline systems compared in the study exhibit hallucinated citation rates of up to 21%.

Neden ÖnemliWhy it matters

Büyük dil modeli (LLM) ajanları giderek daha fazla tam bilimsel makale taslağı hazırlıyor. Metin, kod ve sonuçların sessizce birbirinden ayrıştığı doğrulanabilirlik boşluğu, araştırma kayıtlarını büyük ölçekte zehirleme riski taşıyor. Yapılandırılmış ve denetlenebilir bir kanıt zinciri protokolü, yapay zekâ tarafından üretilen her makale için fiilen standart haline gelebilir. Bu durum, yükü sonradan yapılan gerçeklik denetiminden, tasarım aşamasında sağlanan bütünlüğe kaydırıyor. Bu gelişme, yeniden üretilebilirlik, hakem değerlendirmesi ve yapay zekâ destekli bilimin güvenilirliği açısından önemli.Large language model (LLM) agents are increasingly drafting complete scientific papers. The verifiability gap, where text, code, and results silently diverge, poses a risk of poisoning research records on a large scale. A structured and auditable chain-of-evidence protocol could effectively become the standard for every AI-generated paper. This shifts the burden from post-hoc reality checks to integrity ensured at the design stage. This development is significant for reproducibility, peer review, and the reliability of AI-assisted science.

Öne ÇıkanlarHighlights

  • Temel otonom araştırma ajanları, referanslarının %21'ine kadarını halüsinasyon yoluyla üretiyor. Ayrıca açıklanan yöntemler ile fiilen kullanılan kodlar arasında sık sık uyumsuzluklar görülüyor.Baseline autonomous research agents generate up to 21% of their references through hallucination. Additionally, frequent inconsistencies are observed between described methods and the code actually used.
  • Science One Framework, her alıntıyı Semantic Scholar API üzerinden doğruluyor. Konu başına en fazla 100 tam metin PDF erişimi sağlanıyor. Bu sayede referanslar için model hafızasına bağımlılık ortadan kalkıyor.Science One Framework verifies every citation via the Semantic Scholar API. It provides access to up to 100 full-text PDFs per topic. This eliminates reliance on model memory for references.
  • Özel bir İddia Doğrulayıcı, her olgusal iddiayı beyan edilen kaynak ürünüyle karşılaştırıyor. Aşırıya kaçan iddiaları silmek yerine muhafazakâr biçimde yeniden ifade ediyor.A dedicated Claim Verifier compares each factual claim against the cited source material. Instead of deleting exaggerated claims, it conservatively rephrases them.

EleştiriCritical take

Sistem, tek bir laboratuvardan gelen açık bir 'deneysel araştırma prototipi' olarak konumlandırılıyor. Sıfır halüsinasyon sonucu, ilgili literatürün Semantic Scholar API tarafından kapsanmasına bağlı. Bu kısıt, ön baskılar, ücretli erişim gerektiren veya çok yeni çalışmalar için sessizce işlevini yitiriyor. Ayrıca 'muhafazakâr yeniden ifade' uzlaştırma adımı, doğrulayıcıdan geçen ancak ince detaylarda yanıltıcı olabilecek iddialar üretebiliyor. Bu nedenle 'doğrulanabilirlik', bilimsel güvenilirlik için gerekli ama yeterli bir koşul değil.The system is positioned as an open 'experimental research prototype' from a single laboratory. The zero-hallucination result depends on the relevant literature being covered by the Semantic Scholar API. This limitation silently fails for preprints, paywalled, or very recent studies. Furthermore, the 'conservative rephrasing' reconciliation step can produce claims that pass verification but may be misleading in fine details. Therefore, 'verifiability' is a necessary but not sufficient condition for scientific reliability.

Bu kritik, yerel yapay zeka modeli Qwen3.8-27B tarafından yazılmıştır. Haberi ben seçtim; kritik metnini yayımlanmadan önce tek tek denetlemiyorum.This critique was written by the local AI model Qwen3.8-27B. I chose the story; I do not review each critique before it is published.
Bültene dönBack to the issue