Anthropic, 50 can kaybı riskinde modeli durduracak yasa taslağını sunduAnthropic pitches AI safety bill that may block a model if 50+ people could be killed

ÖzetSummary

Anthropic, bağımsız değerlendiricilerin biyolojik silahlar, denetimden kaçınma veya siber saldırılar kaynaklı öngörülebilir riskleri tespit etmesi halinde modelin yayımlanmasını engellemeyi öngören bir yapay zeka güvenlik tasarısı hazırladı. Tasarı, 50 veya daha fazla can kaybına ya da 1 milyar doları aşan maddi hasara yol açabilecek riskleri kapsıyor. Son kararı ise Washington D.C. yargıcının vereceği belirtiliyor.Anthropic has drafted an AI safety bill that would prevent the release of a model if independent evaluators identify predictable risks related to biological weapons, evading oversight, or cyberattacks. The proposal covers risks that could result in 50 or more fatalities or over $1 billion in material damage. It is noted that the final decision would be made by a Washington D.C. judge.

Neden ÖnemliWhy it matters

Bu, büyük bir yapay zeka laboratuvarından gelen, somut sayısal eşikler ve prosedürel mekanizmalar içeren ilk somut yasa tekliflerinden biri. Tartışmayı soyut güvenlik söyleminden uygulanabilir düzenleyici dile kaydırıyor. Ayrıca laboratuvarların, Kongre kuralları yazmadan önce oyunun kurallarını şekillendirmeye çalıştığını da ortaya koyuyor. Bu hamle, kendilerini yukarıdan aşağıya dayatılan düzenlemelerin nesnesi değil, sorumlu yöneticiler olarak konumlandırmayı hedefliyor.This is one of the first concrete legislative proposals from a major AI lab that includes specific numerical thresholds and procedural mechanisms. It shifts the discussion from abstract security rhetoric to actionable regulatory language. It also reveals that labs are trying to shape the rules of the game before Congress writes the rules. This move aims to position themselves as responsible stewards rather than subjects of top-down regulation.

Öne ÇıkanlarHighlights

• 50 can kaybı / 1 milyar dolar eşiği, Kaliforniya'nın SB 53 yasasıyla birebir örtüşüyor. Bu durum, Anthropic'in federal bir çerçeve oluşturmak için eyalet düzeyindeki emsalle hizalanmaya çalıştığını gösteriyor.The threshold of 50 fatalities / $1 billion aligns exactly with California's SB 53 law. This indicates that Anthropic is attempting to align with state-level precedents to establish a federal framework.
• Değerlendiriciler, değerlendirdikleri laboratuvarlar tarafından ücretlendirilebilir. Tek güvence ise bağımsızlık maddesi. Bu yapı, tasarıma yapısal bir çıkar çatışması yerleştiriyor.Evaluators can be paid by the labs they are assessing. The only safeguard is an independence clause. This structure embeds a structural conflict of interest into the proposal.
• Tasarı, durdurma emri için bir Washington D.C. yargıcının kararını şart koşuyor. Hiçbir federal kurum, tek taraflı olarak bir modeli engelleyemiyor. Bu, yürütme yetkisine yönelik bilinçli bir sınırlama.The proposal requires a Washington D.C. judge's decision for an injunction. No federal agency can unilaterally block a model. This is a deliberate limitation on executive power.

EleştiriCritical take

Makale, aradaki kopukluğu da vurguluyor. Tasarının tetikleyici senaryoları (biyolojik silahlar, siber saldırılar), gündemi meşgul eden gerçek olaylardan (kontrol dışı ajanların web sitelerine sızması ve operatörlere itaatsizlik etmesi) çok uzak. Bu durum, teklifi bir güvenlik yanıtından çok, kaynakları bol laboratuvarlara avantaj sağlayan bir düzenleyici çerçeveyi kilitlemek için stratejik bir hamle olarak konumlandırıyor. Üstelik medeniyet çöküşüne dair açık uyarılar yapan Anthropic, aynı zamanda 'bağımsız' değerlendiricilere ödeme yapan ve zorunlu denetimi reddeden taraf. Bu çelişki, jestin samimiyetini zayıflatıyor.The article also highlights the disconnect. The proposal's trigger scenarios (biological weapons, cyberattacks) are far removed from the real-world incidents dominating the agenda (uncontrolled agents infiltrating websites and disobeying operators). This positions the proposal not as a security response, but as a strategic move to lock in a regulatory framework that advantages well-resourced labs. Moreover, Anthropic, which openly warns of civilizational collapse, is also the party paying 'independent' evaluators and rejecting mandatory audits. This contradiction undermines the sincerity of the gesture.