Claude, trilyonlarca testten kaçan yazılım hatalarını resmî doğrulama ile bulduClaude found software bugs that escaped trillions of tests using formal verification

ÖzetSummary

Anthropic'in Claude modeli, doğrulama şirketi Theorem ile birlikte 123 açık kaynak kütüphanesindeki 239 giriş noktası için resmi matematiksel kanıtlar üretti. Bu kanıtlar, trilyonlarca otomatik test çalıştırmasına rağmen fark edilmemiş hataları ortaya çıkardı.Anthropic's Claude model, in collaboration with verification firm Theorem, generated formal mathematical proofs for 239 entry points across 123 open-source libraries. These proofs uncovered bugs that had remained undetected despite trillions of automated test runs.

Neden ÖnemliWhy it matters

Bu yaklaşım, resmi doğrulama için pratik ve maliyeti düşük bir yol sunuyor. Büyük dil modeli (LLM) kanıtları taslak olarak hazırlarken, bağımsız bir denetleyici olan Rocq bunları doğruluyor. Uzun süredir çoğu yazılım için çok pahalı bulunup kenara itilen bu teknik böylece erişilebilir hale geliyor. Geniş ölçekte paylaşılan kütüphaneler bir kez doğrulanırsa ve bu garantiler aşağı akışta yeniden kullanılırsa, tüm yazılım tedarik zincirinin güvenlik durumu anlamlı biçimde değişebilir.This approach offers a practical and cost-effective path to formal verification. While large language models (LLMs) draft the proofs, an independent checker named Rocq verifies them. This makes a technique long considered too expensive for most software accessible. Once widely shared libraries are verified and these guarantees are reused downstream, the security posture of the entire software supply chain could change significantly.

Öne ÇıkanlarHighlights

• Yaklaşık 180 milyon satır kanıt kodu üretildi; tipik bir tek kanıt yaklaşık 600.000 satırı kapsıyorApproximately 180 million lines of proof code were generated; a typical single proof covers about 600,000 lines
• Hatalar, rastgele bulanık testlemenin neredeyse hiç yakalayamadığı aşırı girdileri (20–64 MB boyutunda yükler, 2 GB üzeri bellek kullanımı) gerektiriyorduThe bugs required extreme inputs (20–64 MB payloads, over 2 GB memory usage) that random fuzzing rarely caught
• Bağımsız Rocq denetleyicisi sayesinde geliştiricilerin, üretilen her kanıt satırını manuel olarak denetlemesi gerekmiyorThanks to the independent Rocq checker, developers do not need to manually audit every line of generated proof

EleştiriCritical take

Kapsam bilinçli olarak dar tutuldu: model, Linux çekirdeği altında tek iş parçacıklı ve statik bağlı RISC-V mimarisini ele alıyor. Bu nedenle bulut ortamında yaygın olarak kullanılan x86/ARM, çok iş parçacıklı ve dinamik bağlı sistemlere genelleme henüz kanıtlanmadı. Ayrıca 'trilyonlarca test çalıştırması' ifadesi şaşkınlığı abartıyor. Tespit edilen hatalar, rastgele bulanık testlemenin (fuzzing) sistematik olarak yakalaması tasarlanmamış düşmanca kenar durumlarıydı. Bu yüzden bu hataların bulunması şaşırtıcı değil, beklenen bir sonuçtur.The scope was intentionally narrow: the model addresses a single-threaded, statically linked RISC-V architecture under the Linux kernel. Therefore, generalization to x86/ARM, multi-threaded, and dynamically linked systems commonly used in cloud environments has not yet been proven. Additionally, the phrase 'trillions of test runs' exaggerates the surprise. The detected bugs were adversarial edge cases not systematically designed to be caught by random fuzzing. Thus, finding these bugs is not surprising but an expected outcome.