Türkçe altyazı Turkish subtitles
0:00 Yapay zeka ajanınız az önce kritik bir soruyu yanıtladı. Your AI agent just answered a critical question. 0:03 Ses tonu kendinden emin, akıcı, hatta belki de zarifti. It sounded confident, articulate, maybe even eloquent. 0:07 Ancak tamamen yanlıştı. It also was completely wrong. 0:10 Tekil yapay zeka ajanları hakkındaki rahatsız edici gerçek şu: Here's the uncomfortable truth about single AI agents. 0:16 Bilmediklerini bilmiyorlar. They don't know what they don't now. 0:18 Elini kaldırıp "Aslında bundan emin değilim" diyemiyorlar. They can't raise their hand and say, actually, I'm not sure about this one. 0:23 Her seferinde kendinden emin bir şekilde cevap veriyorlar. They just answer confidently every single time. 0:29 Düşük riskli durumlarda bu sorun değil. And that's fine when this stakes. 0:33 Ama hasta bakımı, finansal işlemler veya yasal uyum gibi kararlar alırken, doğrulamasız güven bir özellik değil. But when you're making decisions about patient care, financial transactions, or legal compliance, confidence without verification isn't a feature. 0:42 Bir yükümlülüktür. It's a liability. 0:44 Bugün neden tek bir beyin yetmediğini ve çoklu ajan sistemlerinin tekil ajanların çözemediği bir güven sorununu nasıl çözdüğünü konuşacağız. Today we're going to talk about why one brain isn't enough and how multi-agent systems solve a trust problem that single agents can't. 0:54 Gelin gerçek sorunu konuşalım. So let's talk about the real problem. 0:56 Tekil bir yapay zeka ajanı, asla "Bilmiyorum" demeyen parlak bir yeni işe alınan kişi gibidir. A single AI agent is like a brilliant new hire who never says, I don't know. 1:02 Her zaman bir cevabı vardır. They always have an answer. 1:04 Bunu tam bir özgüvenle sunar ve bazen gece uykunuzu kaçıracak kadar sıklıkla tamamen yanlıştır. They deliver it with complete confidence and sometimes often enough to keep you up at night, they're dead wrong. 1:12 Bu, halüsinasyon sorunudur. This is the hallucination problem. 1:22 Ve sormadan önce hayır, bir sonraki yazılım güncellemesinde düzeltilmeyecek. And before you ask, no, it's not getting fixed in the next software update. 1:27 Bu, büyük dil modellerinin çalışma biçiminin temelinde yatan bir durumdur. It's fundamental to how large language models work. 1:31 Kendi bilgi sınırlarını tanımak yerine, inandırıcı görünen çıktılar üretmek üzere eğitilmişlerdir. They're trained to produce plausible sounding outputs, not to recognize the edges of their own knowledge. 1:38 Ve durum daha da kötüleşiyor. And it gets worse. 1:40 Tek ajanlar sadece halüsinasyon görmüyor. Single agents don't just hallucinate. 1:46 Kendinden emin halüsinasyonlar üretiyorlar. They hallucinate confidence. 1:51 İçsel bir belirsizlik ölçerleri yok, tereddüt etmiyorlar. There's no internal uncertainty meter, no hesitation. 1:55 "Hayır, bir daha kontrol edeyim" demiyorlar. No, let me double check that. 1:57 Yanlış cevabı, doğru cevapla aynı kesinlikle söylüyorlar. They'll tell you the wrong answer with the exact same conviction as the right one. 2:03 Sanki asla "yön yeniden hesaplanıyor" demeyen bir GPS gibi. It's like a GPS that never says recalculating. 2:07 Sadece kendinden emin bir şekilde sizi göle sürüklüyor. It just confidently drives you into a lake. 2:10 Düşük riskli işlerde sorun değil. For low stakes, fine. 2:12 Bu e-postayı özetle, bir tweet taslağı hazırla. Summarize this email, draft a tweet. 2:14 Kimse zarar görmüyor. No one's getting hurt. 2:16 Ama yüksek riskli kararlar, tıbbi öneriler, kredi onayları, uyumluluk kontrolleri. But high stakes decisions, medical recommendations, loan approvals, compliance checks. 2:22 "Emin değilim" demesi yapısal olarak imkânsız olan bir sisteme şirketinizi ya da birinin sağlığını bağlar mısınız? Would you bet your company or someone's health on a system that's constitutionally incapable of saying, I'm not sure? 2:31 Sağlık veya finans gibi yüksek riskli uygulamalar, kritik kararlar vermeden önce belirsizliği değerlendirebilen ve çıktıları doğrulayabilen sistemler gerektirir. High stakes applications like healthcare or finance demand systems that can assess uncertainty and verify outputs before making critical decisions. 2:41 Bu, çözülemez bir sorun gibi görünebilir, ama insanlar bunu yüzyıllar önce çözdü. Now, this might sound like an unsolvable problem, but humans cracked this centuries ago. 2:47 Tıpta. In medicine. 2:51 İkinci görüşü icat ettik. We invented second opinions. 2:56 Tek bir doktora gidip ciddi bir tanıyla yetinip en iyisini ummazsınız. You don't go to one doctor's and take a serious diagnosis and hope for the best. 3:01 Uzmanlara danışarsınız, belki bir tümör panosuna, yani taramalarınız hakkında uzlaşmaya varana kadar tartışan bir odaya dolusu uzmana. You consult specialists, maybe a tumor board, which is literally a room full of experts arguing about your scans until they reach consensus. 3:12 Finans dünyasında dört I ilkesi vardır. In finance, there's the four I principle. 3:17 Önemli işlemlerde iki kişi imza atar; bankacıların sayı bilmediği için değil, tek onay noktasının tek arıza noktası haline geldiğini öğrendiğimiz için. Two people sign off on significant transactions, not because bankers can't count, but because we've learned that single points of approval become single points a failure. 3:30 Havacılıkta pilotların yanlarında yardımcı pilotlar vardır. In aviation, pilots have co-pilots. 3:36 Kontrol listeleri, en iyi uzmanların bile baskı altında bazı şeyleri gözden kaçırabileceği gerçeğinden ötürü var olmaktadır. Checklists exist because even the best experts miss things under pressure. 3:41 Tüm sistem, insanların hata yapabilir olduğunu varsayar ve buna göre tasarlanır. The whole system assumes humans are fallible and designs around it. 3:45 Bu, felaketler yoluyla kazanılmış kurumsal bir bilgeliktir. This is institutional wisdom earned through disasters. 3:49 İnsanlar, bazen acı bir şekilde, güvenin özgüvenden değil doğrulamadan doğduğunu öğrendi. Humans learned, sometimes the hard way, that trust comes from verification, not confidence. 3:55 Peki neden tüm bu bilgelere sırtını dönen yapay zeka sistemleri inşa ediyoruz? So why are we building AI systems that throw all that wisdom out the window? 4:01 Sana şimdiye kadar inşa edilmiş en büyük çoklu ajan sisteminden bahsetmek istiyorum. Let me tell you about the greatest multi-agent system ever built. 4:07 Ve bu sistem 1969 yılında inşa edildi. And it was built in 1969. 4:13 NASA Görev Kontrol Merkezi. NASA's Mission Control. 4:21 Apollo 11'in ay yüzeyine inişi sırasında, kararı veren tek bir kişi yoktu. When Apollo 11 was descending to the moon's surface, there wasn't one person making the call. 4:26 Her biri belirli bir sistemde uzmanlaşmış onlarca uzman vardı ve hepsi eş zamanlı olarak izlemeyi sürdürüyordu. There were dozens of specialists, each an expert in one specific system, all monitoring simultaneously. 4:35 GUIDO yönlendirme sistemlerini izlerken, FIDO uçuş dinamiklerini takip ediyor, EECOM yaşam destek sistemlerini denetliyor, CAPCOM astronotlarla konuşuyor ve uçuş direktörü Gene Kranz tüm bunları koordine ediyordu. You had GUIDO, watching the guidance systems, FIDO tracking flight dynamics, EECOM, monitoring life support, and CAPCOM talking to the astronauts, and flight director Gene Kranz orchestrating all of it. 5:02 İşte asıl önemli nokta şu. And here's the key. 5:04 Kritik bir karar verilmeden önce Kranz, "gitme-gitmeme" (go-no-go) denilen bir süreci yürütürdü. Before any critical decision, Kranz would run what's called a go-no-go. 5:15 Odadaki herkesi dolaşırdı. He'd go around the room. 5:17 Her uzman sistemlerini kontrol eder ve "git" ya da "gitme" derdi. Each specialist would check their systems and call out, go, no go. 5:22 İstasyonlardan herhangi birinden gelen tek bir "gitme" kararı. One single no go from any station. 5:25 Sorun çözülene kadar tüm görev duraklatılırdı. The whole mission pauses until it's resolved. 5:29 Şimdi işler dramatik hale geliyor. Now here's where it gets dramatic. 5:31 Apollo 11'in inişi sırasında alarm zilleri çalmaya başladı. During Apollo 11's descent, alarms started blaring. 5:37 1202, 1201.5:38 Ay modelinin bilgisayarı, simülasyonda hiç görülmemiş hatalar veriyordu. The lunar model's computer was throwing errors nobody had seen in simulation. 5:43 Guido!5:45 Steve Bales'in bir karar vermesi için sadece birkaç saniyesi vardı. Steve Bales had seconds to make a call. 5:49 İnişi iptal etmek ya da devam etmek. Abort the landing or press on. 5:51 Stres altındaki tek bir zihin tüm misyonu iptal edebilirdi, ama Bales yalnız değildi. One brain under pressure could have scrubbed the whole mission, but Bales wasn't alone. 5:57 Uzmanlarla dolu bir arka odası vardı. He had a back room full of experts. 6:00 24 yaşındaki mühendis Jack Garman, alarmı, ara sıra tekrarlıyorsa görmezden gelinebilecek bir bilgisayar aşırı yüklenmesi olarak tanıdı. Jack Garman, a 24-year-old engineer recognized the alarm as a computer overload that could be ignored if it was intermittent. 6:08 Bales'e, "Bales, git, krayonlar kabul edildi" dedi. He told Bales, Bales call go, crayons accepted. 6:12 40 saniye sonra. 40 seconds later. 6:14 Neil Armstrong Ay'a indi. Neil Armstrong landed on the moon. 6:16 Bu, tek bir ajanın karar vermesi değil. That's not a single agent making a decision. 6:19 Bu, çoklu-ajan sistemi; uzmanlar, yedeklilik, doğrulama ve anlaşmazlığı çözme için net bir protokol. That's a multi-agent system, specialists, redundancy, verification, and a clear protocol for resolving disagreement. 6:28 Yani çoğu insanın fark ettiğinden daha uzun süredir çoklu-ajan sistemleri yapıyoruz. So you could say we've been doing multi- agent systems longer than most people realize. 6:33 Peki görev kontrolünü yapay zeka mimarisine nasıl getiririz? So how do we bring mission control into AI architecture? 6:38 Tek bir ajanın cevap vermesi yerine, bir sistem tasarlıyorsunuz. Instead of one agent answering, you design a system. 6:48 Bir ajan cevabı üretiyor. One agent generates the answer. 6:55 Hızlı, yaratıcı ilk taslak düşünce. Fast, creative first draft thinking. 6:59 Başka bir ajan doğruluyor. Another agent verifies. 7:06 Olguları çapraz kontrol ediyor, halüsinasyonu yakalıyor. Cross-checks facts catches hallucination. 7:09 Bu, o alarmın gerçek bir sorun olup olmadığını aslında bilen uzman Jack Garman. This is your Jack Garman, the specialist who actually knows if that alarm is a real problem. 7:16 Ve rakip rolünü üstlenen üçüncü bir ajan. And a third agent that plays adversary. 7:20 Görevi, sistemleri bozmak, kusurları bulmak ve nelerin ters gidebileceğini sorgulamak. Its job is to break things, find the flaws, ask what could go wrong. 7:25 Güvenlikte buna kırmızı timleme diyoruz. In security, we call this red teaming. 7:34 Yapay zeka sistemlerinde, bu muhtemelen inşa edeceğin en önemli ajan, çünkü sisteminin başarısız olmasını sağlamaya çalışan başka kimse yok. In AI systems, it might be the most important agent you build because nobody else is trying to make your systems fail. 7:42 Amaç, kendi başına bir uzlaşı sağlamak değil. The goal isn't consensus for its own sake. 7:45 Kazanılmış bir güven. It's earned confidence. 7:47 Farklı bakış açılarına sahip birden fazla ajan anlaştığında, çıktıya gerçekten güvenebilirsin. When multiple agents with different perspectives agree, you can actually trust the output. 7:53 Anlaşamadıklarında, bu bir sinyaldir. When they disagree, that's a signal. 7:56 Daha derine in, bir insana yönlendir, sadece yayınlama. Dig deeper, escalate to a human, don't just ship it. 8:00 Bu, dört I ilkesidir. This is the four I's principle. 8:04 Otomatikleştir. Automate it. 8:08 Bu, makine hızında çalışan tümör konseyidir. This is the tumor board at machine speed. 8:11 Bu, mimariye yerleştirilmiş kurumsal bilgeliktir. This is institutional wisdom built into the architecture. 8:15 Şimdi bakın, her sohbet botunun arkasında bir görev kontrol odası olması gerektiğini söylemiyorum. Now look, I'm not saying every chatbot needs a mission control room behind it. 8:20 Film öneren veya makaleleri özetleyen bir şey geliştiriyorsan, tek ajan yeterli. If you're building something that recommends movies or summarizes articles, single agent. 8:28 Basit tut. Keep it simple. 8:29 En kötü senaryo, birinin kötü bir film izlemesidir. The worst case scenario is someone watches a bad film. 8:33 Bu düşük riskli. This is low stakes. 8:38 Peki, soracağım soru şu. Well, here's the question I'd ask. 8:40 Yapay zekanız yanıldığında ne olur? What happens when your AI is wrong? 8:43 Eğer sonuç hafif bir rahatsızlık ise, tek ajan yeterli. If the answer is mild inconvenience, single agent is fine. 8:48 Ama sonuç dava, hasta zarar görmesi, düzenleyici ihlal veya CEO'nun gece 2'de araması ise, sistemin içine doğrulama mekanizması yerleştirmeniz gerekir. If the is lawsuit, patient harm, regulatory violation, or my CEO calls me at 2 a.m., you need verification built into the system. 9:05 Sağlık, finans, hukuk ve güvenlik kritik operasyonlar; ekiplerin yapay zeka ajanlarını devreye almak istediği tam da bu alanlar. Healthcare, finance, legal, safety critical operations, these are exactly the domains where teams want to deploy AI agents. 9:14 Ve tek ajanın güveninin bir gün manşetlere çıkacağı alanlar da bunlar. And these are the domains where single agent confidence will eventually become front page news. 9:21 Sorun, çoklu ajan mimarisini karşılayıp karşılayamamanız değil; yanlış cevapta yapay zekanızın neden bu kadar emin olduğunu bir hakime nasıl açıklayacağınızı karşılayıp karşılayamamanız. The question isn't whether you can afford multi-agent architecture, it's whether you could afford to explain to a judge why your AI was so confident about the wrong answer. 9:33 Yüksek riskli ortamlar için sistemler geliştirirken çoklu ajan mimarisinin uygulanma maliyeti haklı çıkar. The cost of implementing multi-agent architecture is justified when building systems for high-stakes environments. 9:45 Hataların ağır sonuçları olabileceği yerlerde. Where errors can have severe consequences. 9:50 Bugün öğrendiğimiz şey, bu sorunu zaten çözmüş olduğumuz. What we learned today is that we solve this problem already. 9:54 60 yıl önce NASA, ne kadar uzman olursa olsun, hiçbir tek kişinin tek başına kritik bir karar veremeyeceği bir sistem kurdu. 60 years ago, NASA built a system where no single person, no matter how expert, could make a critical call alone. 10:01 Her karar birden fazla uzman tarafından onaylandı. Every decision passed through multiple specialists. 10:04 Her "onay" varsayılmadı, kazanıldı. Every go was earned, not assumed. 10:08 Bunu hayatlar tehlikede olduğu için yaptılar ve işe yaradı. They did it because lies were on the line, and it worked. 10:12 Önemli kararlar veren yapay zeka sistemleri geliştiriyorsanız, bir seçiminiz var. If you're building AI systems that make decisions that matter, you have a choice. 10:17 Tek bir ajana güvenip doğru olmasını umabilirsiniz ya da tıpta, finansda, havacılıkta ve uzay keşfinde yaptığımız gibi doğrulamayı mimarinin içine inşa edebilirsiniz. You can trust one agent and hope it's right, or you can build a verification into the architecture the same way we've done for medicine, finance, aviation, and space exploration. 10:30 Tek bir beynin kör noktaları vardır. One brain has blind spots. 10:33 Birden fazla beyin, diğerlerinin kaçırıp göremediğini yakalar. Multiple brains catch what others miss. 10:37 Bu bir gereksiz yük değil. That's not overhead. 10:38 Güvenilir sistemler inşa etmenin yoludur. That's how you build systems worth trusting. 10:53 Teşekkürler. Thank you. Altyazı bilgisayarımda üretildi ve videoyla ilerler; bir satıra tıklayın, o ana atlasın. Subtitles generated on my computer; they follow the video — click a line to jump there.
Tekil AI ajanlarının halüsinasyon ve yanlış güven sorunlarını çözmek için çoklu ajan sistemlerinin neden gerekli olduğunu açıklıyor. It explains why multi-agent systems are necessary to address the hallucination and overconfidence issues of single AI agents.
Bu video youtube.com üzerinde yayımlandı; buradaki oynatıcı YouTube’undur. Türkçe özet ve altyazı AiPulse için hazırlanmıştır. This video is published on youtube.com ; the player here is YouTube’s. The Turkish summary and subtitles are prepared for AiPulse .
YouTube’da izle Watch on YouTube AI Kritik → AI Critique →