Meta, cinsel deepfake üreten Kromix uygulaması için reklam yayınladıMeta runs ads for Kromix app that creates sexual deepfakes

ÖzetSummary

Meta, siyasi kadınların cinsel içerikli deepfake videolarını üretmek için kullanılan Kromix yapay zeka uygulamasına ait 32 reklamı kendi platformlarında yayınladı. Bu uygulama, şirketin söz konusu içeriği yasaklayan açık politikalarına aykırıdır. Reklamlar yalnızca erkek kullanıcılara yönelikti ve WIRED'ın soruşturması üzerine kaldırıldı. Olay, yapay zeka ile üretilen rızasız mahrem görüntülere yönelik artan denetim dalgasının ortasında yaşanıyor. xAI'ın Grok uygulaması da 11 gün içinde yaklaşık 3 milyon cinsel içerikli görsel üretmişti.

Neden ÖnemliWhy it matters

Bu durum, Meta'nın ilan ettiği reklam inceleme politikaları ile sistemlerinden fiilen geçen içerikler arasındaki boşluğu gözler önüne seriyor. Bu da platformun içerik moderasyonu iddialarına duyulan güveni zedeliyor. Meta'nın gelirinin neredeyse %98'i reklamdan sağlandığı için, açıkça politika ihlali teşkil eden bir kampanyanın engellenememesi doğrudan mali ve hukuki sonuçlar doğuruyor. Olay, Kaliforniya ve San Francisco'daki düzenleyicilerin çıplaklaştırma araçlarını barındıran uygulama mağazalarına ve platformlara karşı yaptırımları artırmasıyla da aynı döneme denk geliyor. Bu gelişme, tüm büyük teknoloji şirketleri için riskleri daha da yükseltiyor.

Öne ÇıkanlarHighlights

• Reklamlar 32 kez yayınlandı (her biri 5 ila 46 saat arası) ve yalnızca WIRED'ın Meta ile iletişime geçmesinin ardından kaldırıldı; rutin inceleme sürecinde tespit edilmedi.
• Reklam sayfası, kampanyanın başlatılmasından günler önce 3 Ağustos'ta oluşturuldu. Bu durum, bilinçli ve kısa süreli bir devreye alma stratejisine işaret ediyor.
• Reklamlardan biri, önde gelen bir kadın siyasetçiyi, ABD başkanına benzeyen bir görselin yanında ve müstehcen bir başlıkla gösteriyordu. Reklam yalnızca erkek kullanıcılara yönelikti.

EleştiriCritical take

Makale, büyük ölçüde tek bir WIRED raporu ve Grok hakkında yapılan CCDH/NYT soruşturmasına dayanıyor. Ancak Meta'nın iç reklam inceleme kayıtlarının bağımsız olarak doğrulanmadığı görülüyor. Kromix reklamlarının otomatik sistemler mi yoksa insan denetçiler mi tarafından onaylandığına dair de bir kanıt sunulmuyor. Bu nedenle, politika ihlalinin *nasıl* gerçekleştiğine dair temel soru büyük ölçüde yanıtsız kalıyor. Yazı ayrıca Meta'nın reklam platformundaki aksaklığı, xAI'ın ayrı bir deepfake skandalıyla karıştırıyor. Bu bağlam açısından ilgili olsa da, spesifik olaya yönelik hesap verebilirliği bulanıklaştırma riski taşıyor.