Yapay Zeka Liderleri Siber Güvenlik Şeffaflığı İçin SAFE Kılavuzlarını ÖneriyorAI Leaders Propose SAFE Guidelines for Cybersecurity Transparency

ÖzetSummary

Linux Vakfı tarafından desteklenen Open Secure AI Alliance, 120'den fazla kuruluş ekosistemi içinde yapay zekâ siber güvenlik olaylarını ve kaçırılan saldırıları gizli bir şekilde paylaşmak için SAFE yönergeleri hazırlıyor.Supported by the Linux Foundation, the Open Secure AI Alliance is developing SAFE guidelines for confidentially sharing AI cybersecurity incidents and intercepted attacks within an ecosystem of over 120 organizations.

Neden ÖnemliWhy it matters

Bu yönergeler, izole ajansal yapay zekâ saldırılarını ortak savunmalara dönüştürerek tehdit istihbaratını paylaşarak sistemik riski azaltmayı hedefliyor. Olay toplama süreçlerini standartlaştırıp kanıta dayalı önerileri yayımlayarak girişim, yapay zekâ saldırı yüzeylerinin hızlı evrimine ayak uydurmayı amaçlıyor.These guidelines aim to reduce systemic risk by turning isolated agency-level AI attacks into collective defenses through threat intelligence sharing. By standardizing incident collection processes and publishing evidence-based recommendations, the initiative seeks to keep pace with the rapid evolution of AI attack surfaces.

Öne ÇıkanlarHighlights

• NVIDIA, NOOA araştırma çerçevesi ve OpenShell çalışma zamanını sağlayarak ajan seviyesinde sıkı güvenlik kontrollerini uygulamaya katkıda bulunuyor.NVIDIA, by providing the NOOA research framework and OpenShell runtime, contributes to enforcing strict security controls at the agent level.
• Garak (büyük dil modeli güvenlik açığı tarayıcısı) ve NeMo Guardrails gibi açık kaynak araçlar, veri sızıntılarını, istem enjeksiyonlarını tespit etmeye ve güvenlik politikalarını zorlamaya yardımcı oluyor.Open-source tools such as Garak (large language model vulnerability scanner) and NeMo Guardrails help detect data leaks, prompt injections, and enforce security policies.
• Okta (XAA protokolü), Amazon (Strands Ajanları, Cedar dili) ve Red Hat (asago) gibi ittifak üyeleri, güvenli ajansal iş akışları için kimlik, izin ve yönetişim çerçeveleri sunuyor.Alliance members like Okta (XAA protocol), Amazon (Strands Agents, Cedar language) and Red Hat (asago) offer identity, permission, and governance frameworks for secure agency workflows.

EleştiriCritical take

SAFE çerçevesi şeffaflığı teşvik ederken, gizli veri paylaşımına dayalı olması hukuki ve gizlilik engelleriyle karşılaşabilir; açık araçların etkinliği ise farklı kuruluşlar arasında tutarlı bir benimsenmeye büyük ölçüde bağlıdır.While the SAFE framework promotes transparency, its reliance on confidential data sharing may encounter legal and privacy hurdles; the effectiveness of open tools also heavily depends on consistent adoption across different organizations.