No. 46
2026-09-03
yapay zeka nabzı — ham değil, demlenmişthe AI pulse — brewed, not raw
 AI KRİTİKAI CRITIQUE
Görsel, Claude-Fable.md dosyasından alınmış bir metin alıntısını göstermektedir; bu alıntı, Claude’un şarkı sözlerini veya kitap ve makalelerden pasajları yeniden üretmeyi reddetmesini ayrıntılı olarak açıklamaktadır.

Anthropic, Claude'un şarkı sözlerini yeniden üretmesini yasakladıAnthropic bans Claude from reproducing song lyrics

Habere gitRead the article    Türkçe (otomatik çeviri) English (automatic translation)

ÖzetSummary

Anthropic, güncellenmiş Claude sistem istemine (Fable 5.1) saldırgan bir anti-kaçınma maddesi ekledi. Bu madde, şarkı sözleri, şiirler ve telif hakkıyla korunan görsel karakterlerin yeniden üretimini yasaklıyor. SVG, ASCII sanatı veya yeniden kurgulanmış istemler yoluyla bile bu içerikler üretilmeyecek. Bu değişiklik, Sony Music Publishing ve Warner Chappell'in şirkete karşı eğitim verisi davası açmasından günler sonra geldi.Anthropic added an aggressive anti-evasion clause to its updated Claude system prompt (Fable 5.1). This clause prohibits the reproduction of song lyrics, poetry, and copyrighted visual characters. This content will not be generated even via SVG, ASCII art, or rephrased prompts. This change came days after Sony Music Publishing and Warner Chappell filed a training data lawsuit against the company.

Neden ÖnemliWhy it matters

Zamanlama, hukuki motivasyonu görmezden gelmeyi zorlaştırıyor. İstem düzeyinde bir yama, temel model ağırlıklarını değiştirmeden mahkemelere ve jüriye uyum sinyali göndermenin ucuz ve hızlı bir yolu. Ayrıca bu durum, Anthropic'in yayımladığı istemlerin gerçek talimat yığınının yalnızca bir dilimi olduğunu da ortaya koyuyor. end_conversation gibi kritik davranışlar, yayımlanmamış özellik bazlı bloklarda yer alıyor. Bu da herhangi bir şeffaflık iddiasını karmaşıklaştırıyor.The timing makes it difficult to ignore the legal motivation. A prompt-level patch is a cheap and fast way to signal compliance to courts and juries without altering the underlying model weights. Additionally, this reveals that the prompts published by Anthropic are only a slice of the actual instruction stack. Critical behaviors like end_conversation reside in unpublished feature-based blocks. This complicates any claims of transparency.

Öne ÇıkanlarHighlights

  • Yeni şarkı sözü yasağı, 'kişinin tek tek yapıştırdığı ve kendi şarkısı olarak tanımladığı dizeleri' açıkça kapsıyor. Bu, yaygın bir hapishane kırma (jailbreak) vektörünü kapatıyor.The new song lyric ban explicitly covers 'lines pasted individually by a person and defined as their own song.' This closes a common jailbreak vector.
  • Sistem isteminden alıntılanan sevimli bir örnek (Sonic → kaykay yapan aksolotl), gelecekteki konuşmalarda modeli bu spesifik çalışma yöntemine doğru ince bir şekilde yönlendirebilir.A cute example quoted from the system prompt (Sonic → axolotl doing a skateboard trick) could subtly steer the model toward this specific working method in future conversations.
  • Anthropic'in dokümantasyon sitesi LLM dostu (Markdown için .md uzantısı ekleniyor). Bu, istem farklarını otomatikleştirmeyi son derece kolaylaştırıyor. Ancak tam çalışma zamanı istemi hâlâ kısmen gizli kalıyor.Anthropic's documentation site is LLM-friendly (adding .md extensions for Markdown). This makes automating prompt diffs extremely easy. However, the full runtime prompt remains partially hidden.

EleştiriCritical take

Simon Willison, istem düzeyindeki düzeltmenin reaktif ve kozmetik olduğunu haklı olarak belirtiyor. Bu yaklaşım, modele isteği reddetmesini söylüyor. Ancak modelin bu sözlerle eğitilip eğitilmediği sorusunu ele almıyor. Ayrıca end_conversation, hafıza ve web araması gibi temel davranış kuralları yayımlanmamış katmanlarda duruyor. Bu nedenle çekirdek istemi yayımlamanın 'şeffaflığı', hesap verebilirlikten çok pazarlama niteliği taşıyor.Simon Willison rightly points out that the prompt-level fix is reactive and cosmetic. This approach tells the model to refuse the request. However, it does not address whether the model was trained on these lyrics. Furthermore, core behavior rules like end_conversation, memory, and web search remain in unpublished layers. Therefore, publishing the core prompt as 'transparency' carries more of a marketing nature than accountability.

Bu kritik, yerel yapay zeka modeli Qwen3.8-27B tarafından yazılmıştır. Haberi ben seçtim; kritik metnini yayımlanmadan önce tek tek denetlemiyorum.This critique was written by the local AI model Qwen3.8-27B. I chose the story; I do not review each critique before it is published.
Bültene dönBack to the issue