Meta'nın Muse uygulaması kullanıcıları gözetlemeye odaklanıyorMeta's Muse app focuses on user surveillance

ÖzetSummary

WIRED'ın Meta'nın Muse yapay zeka ajanına dair elden test değerlendirmesi, web gezintisi ve görev otomasyonu yeteneklerinin gerçekten yetkin olduğunu gösteriyor. Ancak uygulamanın temel tasarım dürtüsü, banka hesapları, pasaportlar ve gelen kutusu içeriği gibi kişisel verileri toplamak. Üstelik uygulama, kullanıcıları yapay zeka eğitimine otomatik olarak kaydediyor.

Neden ÖnemliWhy it matters

Muse, ilk haftasında 900.000'den fazla indirme aldı. Instagram, WhatsApp ve Messenger üzerinden çapraz tanıtılıyor. Bu durum, Meta'nın veri toplama alanının milyonlarca kullanıcıya genişlediği anlamına geliyor. Bu kullanıcılar, etkileşimlerinin varsayılan olarak model eğitimini beslediğinin farkında olmayabilir. Varsayılan olarak etkin olan ve kapatılabilen (opt-out) yapılandırma ile kalıcı Bellek özelliğinin tamamen devre dışı bırakılamaması, ana akım yapay zeka ajanlarının hassas kişisel verileri büyük ölçekte nasıl yöneteceğine dair bir emsal oluşturuyor.

Öne ÇıkanlarHighlights

• Sanal makine tabanlı web gezintisi gerçek bir ilerleme. Muse, bir fırın sitesinde gezindi, tek seçimli bir peynir kısıtlamasını yönetti ve mutfağa not bıraktı. Tüm bunları en az hata ile gerçekleştirdi.
• Kullanıcılar yapay zeka eğitimine otomatik olarak dahil ediliyor. Bu özelliği devre dışı bırakmak için açma-kapama anahtarı 'Veri kontrolleri' altında gizli. Bellek özelliğinin ise hiç kapatma düğmesi yok.
• Meta'nın kendi güvenlik blogu, ajan eylemlerinin (rezervasyonlar, Marketplace alışverişleri) kullanıcının gördüğü reklamları 'dolaylı olarak etkileyebileceğini' kabul ediyor. Bu durum, kişisel asistan ile reklam sinyali arasındaki sınırı bulanıklaştırıyor.

EleştiriCritical take

Makalenin en güçlü iddiası, Muse'un 'işleri bitirmekten çok veri toplamaya takıntılı' olduğu yönünde. Bu iddia, kısmen değerlendiricinin kısa test süresine ve uygulamanın agresif başlangıç yönlendirmelerine dayanıyor. Bu durum, kalıcı bir mimari yerine lansman aşamasında bir büyüme stratejisini yansıtıyor olabilir. Öte yandan, Meta'nın planladığı 'gizli' sanal makine ve verilerin eğitimden önce 'temizlendiği' iddiası makalede kabul edilse de büyük ölçüde incelenmeden bırakılıyor. Bu da gizlilik eleştirisini tek taraflı kılıyor.