No. 41
2026-08-29
yapay zeka nabzı — ham değil, demlenmişthe AI pulse — brewed, not raw
 AI KRİTİKAI CRITIQUE
Bir robotik kol, bir atölye tezgahında karmaşık bir dişli montajını dikkatle ayarlıyor.
Temsilî görsel — FLUX.1-dev ile bilgisayarımda üretildi; haberin gerçek fotoğrafı değil.Illustrative image — generated with FLUX.1-dev on my computer; not a real photograph of the story.

Anthropic araştırmacısı yapay zekanın kendini iyileştirmesini gösterdiAnthropic researcher demonstrates self-improving AI

Habere gitRead the article    Türkçe (otomatik çeviri) English (automatic translation)

ÖzetSummary

Anthropic'ten bir araştırmacının makalesi, otomatik hizalama araştırmacısı (AAR) adlı bir sistemi tanıttı. Sistem, genel model kalitesini düşürmeden test edilen 10 hizalama kıyaslama testinin tamamında performansı artırdı. AAR, insan araştırmacıların önerdiği yöntemleri altı saat içinde geride bıraktı. Maliyet ise saatte yaklaşık 4 dolar ile insan araştırmacıların saatte 150 dolarlık maliyetinin çok altında kaldı.A paper by an Anthropic researcher introduces a system called the Automatic Alignment Researcher (AAR). The system improved performance across all 10 tested alignment benchmarks without degrading general model quality. AAR outperformed methods proposed by human researchers within six hours. The cost was significantly lower than that of human researchers, at approximately $4 per hour compared to $150 per hour.

Neden ÖnemliWhy it matters

Bu, yapay zekâ sistemlerinin kendi hizalama eğitimlerini yinelemeli olarak iyileştirdiğine dair ilk somut ve yayımlanmış kanıtlardan biri. Bu gelişme, özyinelemeli iyileşmeye giden yoldaki temel yapı taşlarından biri niteliğinde. Yaklaşım, dar kıyaslama testlerinin ötesine genellenebilirse yapay zekâ güvenlik iş akışlarını ve makine öğrenmesi araştırmasının ekonomisini kökten değiştirebilir. Bu durum, insan araştırmacı zamanındaki darboğazı azaltma potansiyeli taşıyor. Ayrıca sektörü, bir sonraki nesil hizalama hedeflerini kimin — ya da neyin — tasarlayacağı sorusuyla yüzleşmeye zorluyor.This is one of the first concrete and published pieces of evidence that AI systems can iteratively improve their own alignment training. This development is a fundamental building block on the path toward self-iterative improvement. If the approach can generalize beyond narrow benchmark tests, it could fundamentally transform AI safety workflows and the economics of machine learning research. This situation carries the potential to alleviate the bottleneck of human researcher time. Additionally, it forces the industry to confront the question of who—or what—will design the next generation of alignment objectives.

Öne ÇıkanlarHighlights

  • AAR, genel model performansını korurken 10 hizalama kıyaslama testinin tamamında iyileşme sağladıAAR achieved improvements across all 10 alignment benchmarks while maintaining general model performance
  • En iyi otomatik yöntem, ortalama olarak altı saat içinde deneyimli insan önerilerini geride bıraktıThe best automatic method outperformed experienced human proposals on average within six hours
  • API çıkarım maliyeti saatte yaklaşık 4 dolar, insan araştırmacılar için ise saatte 150 dolarAPI inference cost was approximately $4 per hour, compared to $150 per hour for human researchers

EleştiriCritical take

Sonuç, yalnızca sisteme verilen 10 kıyaslama testinin kalitesiyle sınırlı. Makale, anlamlı hizalama kıyaslama testlerinin oluşturulmasının ve sürdürülmesinin çözülmemiş devasa bir görev olduğunu kabul ediyor. Bu nedenle 'hizalama hatalarını güvenilir biçimde azaltmak' ifadesi, dar ve kontrollü bir ortam için güçlü bir iddia. Maliyet karşılaştırması dikkat çekici olsa da, 30 dakikalık otomatik bir eğitim döngüsünü insan araştırmacıların tam bir günlük çalışmasıyla kıyaslıyor. Bu durum, otomasyonu kanıtların hak ettiği ölçüde daha kesin gösterme riski taşıyor.The results are limited by the quality of the 10 benchmark tests provided to the system. The paper acknowledges that creating and maintaining meaningful alignment benchmarks remains an unsolved, massive task. Therefore, the claim to 'reliably reduce alignment errors' is a strong assertion for a narrow and controlled environment. Although the cost comparison is striking, it compares a 30-minute automatic training cycle to a full day's work by human researchers. This risks presenting automation as more precise than the evidence warrants.

Bu kritik, yerel yapay zeka modeli Qwen3.8-27B tarafından yazılmıştır. Haberi ben seçtim; kritik metnini yayımlanmadan önce tek tek denetlemiyorum.This critique was written by the local AI model Qwen3.8-27B. I chose the story; I do not review each critique before it is published.
Bültene dönBack to the issue