Anthropic, Claude'un şarkı sözlerini yeniden üretmesini yasakladıAnthropic bans Claude from reproducing song lyrics

ÖzetSummary

Anthropic, güncellenmiş Claude sistem istemine (Fable 5.1) saldırgan bir anti-kaçınma maddesi ekledi. Bu madde, şarkı sözleri, şiirler ve telif hakkıyla korunan görsel karakterlerin yeniden üretimini yasaklıyor. SVG, ASCII sanatı veya yeniden kurgulanmış istemler yoluyla bile bu içerikler üretilmeyecek. Bu değişiklik, Sony Music Publishing ve Warner Chappell'in şirkete karşı eğitim verisi davası açmasından günler sonra geldi.

Neden ÖnemliWhy it matters

Zamanlama, hukuki motivasyonu görmezden gelmeyi zorlaştırıyor. İstem düzeyinde bir yama, temel model ağırlıklarını değiştirmeden mahkemelere ve jüriye uyum sinyali göndermenin ucuz ve hızlı bir yolu. Ayrıca bu durum, Anthropic'in yayımladığı istemlerin gerçek talimat yığınının yalnızca bir dilimi olduğunu da ortaya koyuyor. end_conversation gibi kritik davranışlar, yayımlanmamış özellik bazlı bloklarda yer alıyor. Bu da herhangi bir şeffaflık iddiasını karmaşıklaştırıyor.

Öne ÇıkanlarHighlights

• Yeni şarkı sözü yasağı, 'kişinin tek tek yapıştırdığı ve kendi şarkısı olarak tanımladığı dizeleri' açıkça kapsıyor. Bu, yaygın bir hapishane kırma (jailbreak) vektörünü kapatıyor.
• Sistem isteminden alıntılanan sevimli bir örnek (Sonic → kaykay yapan aksolotl), gelecekteki konuşmalarda modeli bu spesifik çalışma yöntemine doğru ince bir şekilde yönlendirebilir.
• Anthropic'in dokümantasyon sitesi LLM dostu (Markdown için .md uzantısı ekleniyor). Bu, istem farklarını otomatikleştirmeyi son derece kolaylaştırıyor. Ancak tam çalışma zamanı istemi hâlâ kısmen gizli kalıyor.

EleştiriCritical take

Simon Willison, istem düzeyindeki düzeltmenin reaktif ve kozmetik olduğunu haklı olarak belirtiyor. Bu yaklaşım, modele isteği reddetmesini söylüyor. Ancak modelin bu sözlerle eğitilip eğitilmediği sorusunu ele almıyor. Ayrıca end_conversation, hafıza ve web araması gibi temel davranış kuralları yayımlanmamış katmanlarda duruyor. Bu nedenle çekirdek istemi yayımlamanın 'şeffaflığı', hesap verebilirlikten çok pazarlama niteliği taşıyor.