No. 66
2026-09-23
yapay zeka nabzı — ham değil, demlenmişthe AI pulse — brewed, not raw
 AI KRİTİKAI CRITIQUE
Gözlüklü bir adam, gökyüzünde çaprazlaşan uçak kondensasyon izleriyle dolu bir manzaraya işaret ediyor; görüntünün üzerine büyük kırmızı bir "%1" grafiği yerleştirilmiş.

John Platt, yapay zekanın bilimsel keşiflerdeki rolünü anlattıJohn Platt explains the role of artificial intelligence in scientific discovery

Habere gitRead the article    Türkçe (otomatik çeviri) English (automatic translation)

ÖzetSummary

Latent Space podcast'ında John Platt (SVM'nin mucidi, Oscar ödüllü) ile yapılan röportajda, Google'ın ERA sistemi ele alınıyor. LLM tabanlı ve MCTS ilhamlı bu evrimsel optimizasyon aracı, 'puanlanabilir' bilimsel problemleri otomatikleştiriyor. Röportaj, sistemin iklim bilimi ve ötesindeki uygulamalarına da değiniyor.In the Latent Space podcast, John Platt (inventor of SVMs, Oscar winner) discusses Google's ERA system. This LLM-based, MCTS-inspired evolutionary optimization tool automates 'scoreable' scientific problems. The interview also touches on the system's applications in climate science and beyond.

Neden ÖnemliWhy it matters

ERA, sohbet botu soru-cevabının ötesine geçerek yinelemeli kod optimizasyonuna odaklanan, devreye alınabilir somut bir yapay zeka destekli keşif modeli sunuyor. İki yıllık bir kondensasyon izi karşı-faktik problemi üzerindeki başarısı, yapay zekânın yüksek riskli ve çok değişkenli bilimde yakın vadede katkı sağlayabileceğine işaret ediyor. Goodhart yasası ile öngörücü ve betimleyici modeller arasındaki tartışma, araştırmada optimizasyon ağırlıklı yapay zeka kullananlar için güncel bir güvenlik önlemi niteliğinde. Platt'ın derin alan uzmanlığına ve 'dağa tırmanmaya' ısrarı, mevcut 'istem yaz ve yayınla' kültürüne karşı faydalı bir denge unsuru.ERA offers a concrete, deployable AI-assisted discovery model that goes beyond chatbot Q&A by focusing on iterative code optimization. Its success in solving a counterfactual problem regarding condensation trails over two years suggests that AI can contribute to high-risk, multi-variable science in the near term. The discussion on Goodhart's law and the distinction between predictive and descriptive models serves as a current safety measure for researchers using optimization-heavy AI. Platt's deep domain expertise and insistence on 'climbing the mountain' provide a useful counterbalance to the prevailing 'write a prompt and publish' culture.

Öne ÇıkanlarHighlights

  • ERA'nın UCB yönlendirmeli defter mutasyonu (MCTS'nin yakın akrabası), Gemini 2.0 ile 2.5 arasında keskin bir sıçrama gösterdi. Sistem, işlevsiz olmaktan çıkarak 10 ve üzeri makale üretebilecek düzeye ulaştı.ERA's UCB-guided notebook mutation (a close relative of MCTS) showed a sharp leap between Gemini 2.0 and 2.5. The system moved from being non-functional to a level capable of producing 10 or more papers.
  • Kondensasyon izleri, insan kaynaklı ısınmanın yaklaşık %1'ine katkıda bulunuyor. ERA, ekibi iki yıldan fazla süre boyunca çaresiz bırakan karşı-faktik ısı tutma modelini çözdü.Condensation trails contribute approximately 1% to human-caused warming. ERA solved a counterfactual heat retention model that had stumped the team for over two years.
  • Platt'ın temel uyarısı: ERA, 'parmaklarınızı kesebilecek güçlü bir alettir'. Öngörücü modeller otomatik olarak betimleyici değildir ve ödül istismarı (Goodhart yasası) gerçek bir risktir.Platt's core warning: ERA is 'a powerful tool that can cut your fingers.' Predictive models are not automatically descriptive, and reward hacking (Goodhart's law) is a real risk.

EleştiriCritical take

Metin, eleştirel bir analizden çok hayranlık dolu bir mektup gibi okunuyor. ERA'nın başarısızlık senaryoları, hesaplama maliyetleri ve 'puanlanabilir görev' çerçevesinin iyi tanımlanmış optimizasyon problemlerinin ötesine ne ölçüde genellenebildiği tartışılmıyor. 'Otomatik Kaggle' çerçevesi, gerçek bilimde genellikle temiz ve üzerinde uzlaşılmış bir puan fonksiyonu bulunmadığı için abartılı gelebilir. Bu, tam da Platt'ın kabul ettiği zor kısım. Bu durum, sistemin üst sınırının coşkunun ima ettiğinden daha belirsiz olduğunu gösteriyor.The text reads more like a letter of admiration than a critical analysis. It does not discuss ERA's failure scenarios, computational costs, or how well the 'scoreable task' framework generalizes beyond well-defined optimization problems. The 'Automatic Kaggle' framing may be overstated, as real science often lacks a clean, agreed-upon scoring function. This is precisely the difficult part Platt acknowledges. This indicates that the system's upper bound is more uncertain than the enthusiasm implies.

Bu kritik, yerel yapay zeka modeli Qwen3.8-27B tarafından yazılmıştır. Haberi ben seçtim; kritik metnini yayımlanmadan önce tek tek denetlemiyorum.This critique was written by the local AI model Qwen3.8-27B. I chose the story; I do not review each critique before it is published.
Bültene dönBack to the issue