John Platt, yapay zekanın bilimsel keşiflerdeki rolünü anlattıJohn Platt explains the role of artificial intelligence in scientific discovery

ÖzetSummary

Latent Space podcast'ında John Platt (SVM'nin mucidi, Oscar ödüllü) ile yapılan röportajda, Google'ın ERA sistemi ele alınıyor. LLM tabanlı ve MCTS ilhamlı bu evrimsel optimizasyon aracı, 'puanlanabilir' bilimsel problemleri otomatikleştiriyor. Röportaj, sistemin iklim bilimi ve ötesindeki uygulamalarına da değiniyor.

Neden ÖnemliWhy it matters

ERA, sohbet botu soru-cevabının ötesine geçerek yinelemeli kod optimizasyonuna odaklanan, devreye alınabilir somut bir yapay zeka destekli keşif modeli sunuyor. İki yıllık bir kondensasyon izi karşı-faktik problemi üzerindeki başarısı, yapay zekânın yüksek riskli ve çok değişkenli bilimde yakın vadede katkı sağlayabileceğine işaret ediyor. Goodhart yasası ile öngörücü ve betimleyici modeller arasındaki tartışma, araştırmada optimizasyon ağırlıklı yapay zeka kullananlar için güncel bir güvenlik önlemi niteliğinde. Platt'ın derin alan uzmanlığına ve 'dağa tırmanmaya' ısrarı, mevcut 'istem yaz ve yayınla' kültürüne karşı faydalı bir denge unsuru.

Öne ÇıkanlarHighlights

• ERA'nın UCB yönlendirmeli defter mutasyonu (MCTS'nin yakın akrabası), Gemini 2.0 ile 2.5 arasında keskin bir sıçrama gösterdi. Sistem, işlevsiz olmaktan çıkarak 10 ve üzeri makale üretebilecek düzeye ulaştı.
• Kondensasyon izleri, insan kaynaklı ısınmanın yaklaşık %1'ine katkıda bulunuyor. ERA, ekibi iki yıldan fazla süre boyunca çaresiz bırakan karşı-faktik ısı tutma modelini çözdü.
• Platt'ın temel uyarısı: ERA, 'parmaklarınızı kesebilecek güçlü bir alettir'. Öngörücü modeller otomatik olarak betimleyici değildir ve ödül istismarı (Goodhart yasası) gerçek bir risktir.

EleştiriCritical take

Metin, eleştirel bir analizden çok hayranlık dolu bir mektup gibi okunuyor. ERA'nın başarısızlık senaryoları, hesaplama maliyetleri ve 'puanlanabilir görev' çerçevesinin iyi tanımlanmış optimizasyon problemlerinin ötesine ne ölçüde genellenebildiği tartışılmıyor. 'Otomatik Kaggle' çerçevesi, gerçek bilimde genellikle temiz ve üzerinde uzlaşılmış bir puan fonksiyonu bulunmadığı için abartılı gelebilir. Bu, tam da Platt'ın kabul ettiği zor kısım. Bu durum, sistemin üst sınırının coşkunun ima ettiğinden daha belirsiz olduğunu gösteriyor.