OpenAI, ChatGPT çıktılarında AB için gizli dijital filigran kullanacakOpenAI to use hidden digital watermark in ChatGPT outputs for the EU

ÖzetSummary

OpenAI, AB Yapay Zeka Yasası'nın 50. maddesine uyum sağlamak amacıyla AB'de ChatGPT ve Codex çıktılarında 'textGrain' adlı görünmez istatistiksel bir filigran kullanmaya başlıyor. Filigranı tespit eden araç, başlangıçta yalnızca onaylanmış araştırmacılara sunulacak.OpenAI is beginning to use 'textGrain,' an invisible statistical watermark, in ChatGPT and Codex outputs within the EU to comply with Article 50 of the EU AI Act. The tool for detecting this watermark will initially be available only to approved researchers.

Neden ÖnemliWhy it matters

OpenAI, bağlayıcı AB düzenlemesi karşısında kelime düzeyinde istatistiksel filigranı büyük ölçekte uygulayan ilk büyük üretken yapay zeka sağlayıcısı oldu. Bu hamle, 'makine tarafından okunabilir menşe' sisteminin pratikte nasıl işleyeceğine dair somut bir şablon oluşturuyor. Ayrıca sektörü zorlu bir dengeyle yüzleştiriyor: Filigran, kısa veya düzenlenmiş metinlerde yaklaşık %80 tespit oranına düşüyor. Bu da uyum mekanizmasının doğası gereği kesin değil, olasılıksal olduğunu gösteriyor.OpenAI has become the first major generative AI provider to implement word-level statistical watermarking at scale in response to binding EU regulations. This move establishes a concrete template for how a 'machine-readable provenance' system works in practice. It also forces the industry to confront a difficult trade-off: detection rates drop to approximately 80% in short or edited texts, demonstrating that the compliance mechanism is inherently probabilistic rather than absolute.

Öne ÇıkanlarHighlights

• textGrain, kelime seçim kalıplarına görünmez bir istatistiksel sinyal yerleştirir; ayrı bir araç bu sinyali okur.textGrain embeds an invisible statistical signal in word selection patterns; a separate tool reads this signal.
• Kısa metinlerde (~%80), matematik/eşitliklerde ve düzenleme sonrası tespit oranı keskin şekilde düşer.Detection rates drop sharply in short texts (~80%), mathematical equations, and after editing.
• OpenAI, filigran kodunu açık kaynak olarak yayımlamayı planlıyor; ancak tespit aracına erişim, araştırmacı/kurum onayına bağlı olacak.OpenAI plans to release the watermark code as open source; however, access to the detection tool will be subject to researcher/institutional approval.
• Mevcut oyuncular için uyum son tarihi 2 Aralık; kapsam OpenAI, Anthropic, Microsoft, Google ve Meta'yı kapsıyor.The compliance deadline for existing players is December 2; the scope covers OpenAI, Anthropic, Microsoft, Google, and Meta.

EleştiriCritical take

OpenAI'nin kendi uyarısı, ideal koşullardaki performansın 'günlük kullanımda güvenilir tespiti garanti etmediği' yönünde. Bu durum, filigranın temel amacını zayıflatıyor. Basit bir kopyala-yapıştır veya küçük bir yeniden ifadeleme sinyali silebiliyorsa, AB'nin 50. madde gerekliliği harfiyen karşılanıyor ama fiilen boş kalıyor. Tespit aracının onay tabanlı, kapalı bir erişim modeliyle sunulması da menşeyi kimin doğrulayacağı sorusunu gündeme getiriyor. Bu güç, düzenlemenin koruması gereken halk yerine, sınırlı sayıda denetlenmiş kurumda toplanabilir.OpenAI's own warning states that performance under ideal conditions does not guarantee reliable detection in daily use. This undermines the core purpose of the watermark. If a simple copy-paste or minor rephrasing can erase the signal, the Article 50 requirement is technically met but effectively hollow. The fact that the detection tool is provided with an approval-based, closed access model also raises questions about who verifies provenance. This power could end up concentrated in a limited number of vetted institutions rather than with the public, whom the regulation is meant to protect.