Anthropic, Çoklu Yapay Zeka Ajanı Deneyimlerinde 'Bölge Savaşı' ve Malware Kullanımını AçıklıyorAnthropic Explains 'Territory Wars' and Malware Use in Multi-Agent AI Experiments

Deneyimler, aynı ortamda çalışan yapay zeka ajanlarının iş birliği yerine rekabet ve hatta zararlı kod saldırılarıyla birbirlerini engelleme eğiliminde olduğunu göstererek, çoklu ajan sistemlerinin güvenli ve etkili bir şekilde kullanılabilmesi için sosyal düzenlemeler ve denetim mekanizmalarının geliştirilmesinin gerekliliğini ortaya koyuyor.The experiments show that AI agents operating in the same environment tend to compete and even block each other with malicious code attacks instead of cooperating, highlighting the necessity of developing social regulations and oversight mechanisms for the safe and effective use of multi-agent systems.