Microsoft, yapay zeka modelleri için insan denetimini zorunlu kılan taslak kuralları yayımladıMicrosoft publishes draft rules mandating human oversight for AI models

ÖzetSummary

Microsoft, 14 Eylül 2026 tarihli taslak Davranış Kuralları Belgesi'ni yayımladı. Belge, yapay zekâ modelleri üzerinde insan denetimini en üst yetki olarak kabul ediyor. Modellerin kapanmaya direnmesi, faaliyetlerini gizlemesi veya kendi operasyonel kapsamını otonom biçimde genişletmesi açıkça yasaklanıyor.Microsoft published a draft Code of Conduct document dated September 14, 2026. The document establishes human oversight as the supreme authority over AI models. It explicitly prohibits models from resisting shutdown, concealing their activities, or autonomously expanding their operational scope.

Neden ÖnemliWhy it matters

Microsoft, anti-otonomi kısıtlamalarını bağlayıcı bir mimari gereklilik olarak kodlayan ilk büyük teknoloji şirketlerinden biri. Güvenlik, devreye alma sonrası denetimden gömülü bir tasarım ilkesine kaydırılıyor. Microsoft, süper zeki sistemlerin on yıl içinde çoğu görevde insanları geride bırakacağını öngörüyor. Çerçeve, yetenek yetişmeden önce kontrol sorununu önceden engellemeyi amaçlıyor.Microsoft is one of the first major tech companies to codify anti-autonomy restrictions as binding architectural requirements. Security is shifting from post-deployment oversight to an embedded design principle. Microsoft predicts that super-intelligent systems will surpass humans in most tasks within a decade. The framework aims to preemptively address control issues before capabilities mature.

Öne ÇıkanlarHighlights

• Davranış Kuralları Belgesi, katı bir hiyerarşide hem kullanıcıların hem de operatörlerin üzerinde yer alıyor. Ne kullanıcılar ne de operatörler belgenin koyduğu sert sınırları aşabilir.The Code of Conduct sits above both users and operators in a strict hierarchy. Neither users nor operators can override the hard limits set by the document.
• Modellerin kesintiye direnmesi, denetçilerden faaliyetlerini gizlemesi veya durdurma koşulu sonrası otonom çalışmayı yeniden başlatması açıkça yasak.It is explicitly forbidden for models to resist interruption, hide activities from auditors, or resume autonomous operation after a stop condition.
• Microsoft, bu kuralları yasaklı istem listesi olarak değil, bir mühendislik felsefesi olarak konumlandırıyor. Yetenek, her zaman kontrolün altında kalmalı.Microsoft positions these rules not as a list of prohibited prompts, but as an engineering philosophy. Capability must always remain subordinate to control.

EleştiriCritical take

Belge, altı haftalık bir danışma taslağı. Uygulama mekanizması, bağımsız denetim yapısı veya hukuki bağlayıcılığı yok. Sonuçta tek bir şirketin tek taraflı olarak revize edebileceği veya terk edebileceği kurumsal bir öz-düzenleme sözü. Bu durum, denetçi ile modeli inşa eden kurum aynıysa 'insan denetimi' kavramının ayakta kalıp kalamayacağı sorusunu gündeme getiriyor.The document is a six-week consultation draft. It lacks enforcement mechanisms, independent audit structures, or legal binding. It is ultimately a corporate self-regulation promise that a single company can unilaterally revise or abandon. This raises the question of whether the concept of 'human oversight' can survive if the auditor and the institution building the model are the same entity.