AB'nin yapay zeka kuralları OpenAI TextGrain'i zorluyorEU's AI rules put pressure on OpenAI TextGrain

ÖzetSummary

AB'nin yeni Yapay Zeka Yasası, yapay zekâ ile üretilen metinlerde makine tarafından okunabilir filigranları zorunlu kılıyor. Ancak OpenAI'nin textGrain sistemi üzerinde yapılan testler, 150 kelimeden kısa pasajlarda ve metinde ortalama düzeyde eş anlamlı kelime değişikliği yapıldığında tespit oranlarının sert biçimde düştüğünü gösteriyor. Kelimelerin yalnızca yüzde 25'inin değiştirilmesi, tespit oranını yüzde 17'ye indiriyor.The EU's new AI Act mandates machine-readable watermarks in AI-generated text. However, tests on OpenAI's textGrain system show that detection rates drop sharply for passages under 150 words and when moderate synonym substitutions are made. Changing just 25% of the words reduces the detection rate to 17%.

Neden ÖnemliWhy it matters

'Etkili' filigranlamayı tanımlayan net bir yasal kıyaslama bulunmuyor. Bu durum, şirketleri belirsiz uyum maliyetleriyle karşı karşıya bırakıyor. Ayrıca AB'nin şeffaflık hedeflerini zayıflatabilecek bir düzenleme boşluğu yaratıyor. Modeller giderek daha karmaşık hale geldikçe ve kullanıcılar yapay zekâ çıktılarını düzenli olarak düzenledikçe, filigranlamanın kaynağı belirleme aracı olarak pratik güvenilirliği ciddi biçimde sorgulanır hale geliyor. Bu durum, 50. Madde çerçevesinin tamamını zayıflatabilir.There is no clear legal benchmark defining what constitutes 'effective' watermarking. This leaves companies facing uncertain compliance costs and creates a regulatory gap that could undermine the EU's transparency goals. As models become more complex and users routinely edit AI outputs, the practical reliability of watermarking as a source-identification tool is seriously questioned. This could weaken the entire framework of Article 50.

Öne ÇıkanlarHighlights

• Tespit oranı 300 kelimede yaklaşık yüzde 95 iken 150 kelimede yaklaşık yüzde 80'e düşüyor. Yalnızca yüzde 10'luk bir eş anlamlı kelime değişikliği, oranı yüzde 92'den yüzde 66'ya indiriyor.Detection rates are approximately 95% for 300-word texts but drop to about 80% for 150-word texts. A mere 10% synonym substitution reduces the rate from 92% to 66%.
• textGrain, entropiyi algılanabilirlik ile çıktı kalitesi arasında denge kurmak için bütçelenmiş bir 'kaynak' olarak ele alıyor. Bu yaklaşım, geliştiricilere ayarlanabilir bir kontrol imkânı sunuyor.textGrain treats entropy as a budgeted 'resource' to balance detectability with output quality, offering developers adjustable control.
• OpenAI, filigranlamayı tek başına bir çözüm olarak değil; metadata kimlik bilgileri ve SynthID ile birlikte çalışan katmanlardan biri olarak konumlandırıyor.OpenAI positions watermarking not as a standalone solution, but as one layer working alongside metadata credentials and SynthID.

EleştiriCritical take

Makale, büyük ölçüde OpenAI'nin kendi test verilerine ve tek bir ortak yazarın çerçevesine dayanıyor. OpenAI ise uyum sorusuna ilişkin yorum yapmaktan kaçındı. Bu durum, okuyucuya textGrain'in AB'nin 'etkili, etkileşimli, sağlam ve güvenilir' eşiğini gerçekten karşılayıp karşılamadığına dair bağımsız bir doğrulama sunmuyor. Bu eşik, bilinçli olarak belirsiz bırakılmış durumda.The article relies heavily on OpenAI's own test data and the framework of a single co-author. OpenAI declined to comment on the compliance issue. This fails to provide independent verification of whether textGrain truly meets the EU's threshold for being 'effective, interactive, robust, and reliable,' a standard that has been deliberately left ambiguous.