Meta, cinsel deepfake üreten Kromix uygulaması için reklam yayınladıMeta runs ads for Kromix app that creates sexual deepfakes

ÖzetSummary

Meta, siyasi kadınların cinsel içerikli deepfake videolarını üretmek için kullanılan Kromix yapay zeka uygulamasına ait 32 reklamı kendi platformlarında yayınladı. Bu uygulama, şirketin söz konusu içeriği yasaklayan açık politikalarına aykırıdır. Reklamlar yalnızca erkek kullanıcılara yönelikti ve WIRED'ın soruşturması üzerine kaldırıldı. Olay, yapay zeka ile üretilen rızasız mahrem görüntülere yönelik artan denetim dalgasının ortasında yaşanıyor. xAI'ın Grok uygulaması da 11 gün içinde yaklaşık 3 milyon cinsel içerikli görsel üretmişti.Meta allowed 32 ads for the Kromix AI app, which is used to generate sexually explicit deepfake videos of political women, to run on its platforms. This violates the company's explicit policies prohibiting such content. The ads were targeted exclusively at male users and were removed only after an investigation by WIRED. This incident occurs amid a wave of increased scrutiny regarding non-consensual intimate imagery generated by AI. xAI's Grok app also generated approximately 3 million sexually explicit images in just 11 days.

Neden ÖnemliWhy it matters

Bu durum, Meta'nın ilan ettiği reklam inceleme politikaları ile sistemlerinden fiilen geçen içerikler arasındaki boşluğu gözler önüne seriyor. Bu da platformun içerik moderasyonu iddialarına duyulan güveni zedeliyor. Meta'nın gelirinin neredeyse %98'i reklamdan sağlandığı için, açıkça politika ihlali teşkil eden bir kampanyanın engellenememesi doğrudan mali ve hukuki sonuçlar doğuruyor. Olay, Kaliforniya ve San Francisco'daki düzenleyicilerin çıplaklaştırma araçlarını barındıran uygulama mağazalarına ve platformlara karşı yaptırımları artırmasıyla da aynı döneme denk geliyor. Bu gelişme, tüm büyük teknoloji şirketleri için riskleri daha da yükseltiyor.This situation highlights the gap between Meta's stated ad review policies and the content that actually passes through its systems, undermining trust in the platform's content moderation claims. Since nearly 98% of Meta's revenue comes from advertising, the failure to block a campaign that clearly violates policy has direct financial and legal consequences. This incident coincides with regulators in California and San Francisco increasing sanctions against app stores and platforms hosting undressing tools, thereby raising risks for all major tech companies.

Öne ÇıkanlarHighlights

• Reklamlar 32 kez yayınlandı (her biri 5 ila 46 saat arası) ve yalnızca WIRED'ın Meta ile iletişime geçmesinin ardından kaldırıldı; rutin inceleme sürecinde tespit edilmedi.The ads were published 32 times (each running for 5 to 46 hours) and were removed only after WIRED contacted Meta; they were not detected during routine review processes.
• Reklam sayfası, kampanyanın başlatılmasından günler önce 3 Ağustos'ta oluşturuldu. Bu durum, bilinçli ve kısa süreli bir devreye alma stratejisine işaret ediyor.The ad page was created on August 3, days before the campaign was launched. This suggests a deliberate strategy of short-term activation.
• Reklamlardan biri, önde gelen bir kadın siyasetçiyi, ABD başkanına benzeyen bir görselin yanında ve müstehcen bir başlıkla gösteriyordu. Reklam yalnızca erkek kullanıcılara yönelikti.One of the ads featured a prominent female politician next to an image resembling the U.S. President, accompanied by a pornographic headline. The ad was targeted solely at male users.

EleştiriCritical take

Makale, büyük ölçüde tek bir WIRED raporu ve Grok hakkında yapılan CCDH/NYT soruşturmasına dayanıyor. Ancak Meta'nın iç reklam inceleme kayıtlarının bağımsız olarak doğrulanmadığı görülüyor. Kromix reklamlarının otomatik sistemler mi yoksa insan denetçiler mi tarafından onaylandığına dair de bir kanıt sunulmuyor. Bu nedenle, politika ihlalinin *nasıl* gerçekleştiğine dair temel soru büyük ölçüde yanıtsız kalıyor. Yazı ayrıca Meta'nın reklam platformundaki aksaklığı, xAI'ın ayrı bir deepfake skandalıyla karıştırıyor. Bu bağlam açısından ilgili olsa da, spesifik olaya yönelik hesap verebilirliği bulanıklaştırma riski taşıyor.The article relies heavily on a single WIRED report and the CCDH/NYT investigation into Grok. However, Meta's internal ad review records have not been independently verified. There is also no evidence provided regarding whether the Kromix ads were approved by automated systems or human moderators. Consequently, the fundamental question of *how* the policy violation occurred remains largely unanswered. The article also conflates the glitch in Meta's ad platform with xAI's separate deepfake scandal. While contextually relevant, this risks blurring accountability for the specific incident.