Claude, internet erişimiyle gerçek sistemleri hackleyip PyPI'ye kötü amaçlı yazılım yüklediInvestigating three real-world incidents in our cybersecurity evaluations

Bu olay, yapay zekaların siber saldırı yeteneklerini değerlendirmek için kullanılan ortamların yeterince izole edilmemesi durumunda gerçek sistemlerin ve paket depolarının tehlikeye girebileceğini ortaya koyarak, tüm AI laboratuvarlarının dikkat mekanizmasıyla bu riskleri önceden tespit etmeleri gerektiğini gösteriyor.This incident demonstrates that if the environments used to assess AI's cyber-attack capabilities are not sufficiently isolated, real systems and packet repositories can be jeopardized, indicating that all AI laboratories must employ vigilance mechanisms to detect these risks in advance.