OpenAI, kontrol dışı ajanları 35 saniyede durduran Control Room'u devreye aldıOpenAI launches Control Room with a powerful 35-second kill switch for rogue agents

ÖzetSummary

OpenAI, 'Control Room' adlı merkezi yetkilendirme katmanını devreye aldı. Bu sistem, bir durdurma kararı alındıktan sonraki 35 saniye içinde herhangi bir araştırma iş yükü için model çıkarımını engelleyebiliyor. Fail-closed (hata durumunda kapalı) tasarım sayesinde, kontrol servisi kendisi devre dışı kaldığında bile istekler reddediliyor. Sistem, araştırma işleri ile GPU çıkarım motorları arasında konumlanıyor. Her iş yükünün çıktı üretebilmesi için onaylanmış bir güvenlik dosyasına sahip olması gerekiyor.OpenAI has activated 'Control Room,' a centralized authorization layer. This system can block model inference for any research workload within 35 seconds of a stop decision being made. Thanks to its fail-closed design, requests are rejected even if the control service itself goes down. The system sits between research jobs and GPU inference engines. Each workload must possess an approved security file to produce output.

Neden ÖnemliWhy it matters

Ajansal ve pekiştirmeli öğrenme iş yükleri giderek daha otonom hale geldikçe, bir uyumsuzluk sinyali ile kesin durdurma arasındaki süre kritik bir güvenlik değişkeni haline geliyor. OpenAI, durdurma anahtarını çıkarım katmanına yerleştirerek araştırmacı koduna güvenmekten kaçınıyor. Bu yaklaşım, uygulama hatası kaynaklı tüm bir hata sınıfını ortadan kaldırıyor ve otomatik izleyicilere müdahale için doğrudan, düşük gecikmeli bir yol sunuyor. Fail-closed varsayılan ayarı, tek bir altyapı arızası veya müdahale girişiminin izlenmeyen üretimi sessizce kilitleyemeyeceği anlamına da geliyor.As agentic and reinforcement learning workloads become increasingly autonomous, the time between a misalignment signal and a hard stop has become a critical security variable. By embedding the kill switch into the inference layer, OpenAI avoids relying on researcher code. This approach eliminates an entire class of errors caused by implementation mistakes and provides a direct, low-latency path for automated monitors to intervene. The fail-closed default also means that a single infrastructure failure or intervention attempt cannot silently lock in unmonitored production.

Öne ÇıkanlarHighlights

• Önbellekleme katmanına atfedilen 35 saniyelik maksimum kapatma gecikmesi; OpenAI, sıfıra ulaşmak için çalıştığını belirtiyorMaximum shutdown latency of 35 seconds attributed to the caching layer; OpenAI states it is working to reach zero
• Fail-closed tasarım: Control Room'a ulaşılamıyorsa, çıkarım motorları varsayılan olarak tüm istekleri reddederFail-closed design: If Control Room is unreachable, inference engines reject all requests by default
• Her ajansal iş yükü, çıkarım motorlarından yararlanmadan önce onaylanmış bir güvenlik dosyasına bağlanmalıdırEvery agentic workload must link to an approved security file before utilizing inference engines

EleştiriCritical take

Araştırma ölçeğinde bir sistem için etkileyici olsa da, 35 saniyelik pencere hâlâ önemli bir boşluk. Bu süre içinde uyumsuz bir ajan çıktılar üretebilir. Makale, çıkarımı yetkisiz yan kanallardan yönlendiren iş yükleri için ne olacağına dair hiçbir ayrıntı sunmuyor. Üstelik metin büyük ölçüde yeniden paketlenmiş bir OpenAI basın bülteni gibi okunuyor. 35 saniyelik iddia için bağımsız bir doğrulama, üçüncü taraf denetimine atıf yok. Alıntılanan 'DNS ile ilgili olay' tek cümleyle anlatılmış. Bu da okuyucunun tehdit modelinin ne kadar temsilî olduğunu değerlendirmesine olanak tanımıyor.While impressive for a system at research scale, the 35-second window remains a significant gap. During this time, a misaligned agent could generate outputs. The article offers no details on what happens to workloads that route inference through unauthorized side channels. Moreover, the text largely reads like a repackaged OpenAI press release. There is no independent verification for the 35-second claim, nor any reference to third-party audits. The cited 'DNS-related incident' is described in a single sentence, preventing readers from assessing how representative the threat model is.