Türkçe altyazı Turkish subtitles
0:00 Sürücülerin GPS'lerine o kadar sadık kalarak ki gölün dibinde bulunduklarına dair hikayeler var. There are stories of drivers following their GPSs so faithfully that they ended up in a lake. 0:08 GPS onları bir tekne rampasına yönlendirdi ve sistemlerine içgüdülerinden daha fazla güvendikleri için içeri daldılar. The GPS directed them down a boat launch and because they trusted the system more than their instincts, in they went. 0:17 Şimdi bu hikayeye gülüyoruz çünkü çok saçma geliyor. Now we laugh at that story because it seems so ridiculous. 0:22 Kim bu kadar körü körüne talimatları takip eder ki? Who would follow directions that blindly? 0:24 Ancak yapay zeka ile benzer bir şey oluyor. But something similar happens with AI. 0:28 Bir yapay zeka asistanından yardım istiyoruz, belki de bir satış sözleşmesini özetlemek veya teknik bir mimari oluşturmak gibi karmaşık bir şey. Ve bize o kadar özgüvenli bir cevap veriyor ki, bunun doğru olduğunu varsayıyoruz. We ask an AI assistant for help, maybe something complex like summarizing a sales contract or building a technical architecture. And it gives us an answer with so much confidence that we assume it must be right. 0:43 Bazen gerçekten doğru oluyor, ama bazen de bizi doğrudan göle yönlendiren bir GPS gibi davranıyor. And sometimes it is, but other times it's a GPS pointing us straight into a lake. 0:51 Ve yapay zekanın size tamamen yanlış bilgiyi o kadar özgüvenli sunduğu an... buna... And that moment when AI confidently gives you information that's totally incorrect, That's called... 0:58 Halüsinasyon denir. Hallucination. 1:00 Ve yapay zeka sistemleri bu basit sohbet botlarından tam otonom ajanlara evrildikçe, halüsinasyon farklı bir tür bir meseleye dönüşüyor. And as AI systems evolve from these simple chatbots into fully autonomous agents, hallucination becomes a different kind of conversation. 1:12 O zaman konuşalım, ajanlar gerçekten halüsinasyonları iyileştirdi mi, yoksa kötüleştirdi mi? So let's talk about, have agents actually made hallucinations better, or have they made them worse? 1:21 Bu, şu an herkesin sorduğu bir soru. This is a question everyone's asking right now. 1:24 Temel LLM'lerden sohbet botlarına, oradan da planlama, akıl yürütme, araç kullanma ve eylem gerçekleştiren ajanlara geçtiğimizde, risk manzarası gerçekten değişti. When we move from basic LLMs to chatbots and then to agents, systems that plan, reason, use tools, and take action, the risk landscape truly changed. 1:39 Ve işte asıl hikaye bu. And here's the real story. 1:41 İyi haber şu ki, ajanlar araçlarla temellendirildiğinde daha az halüsinasyon üretiyor. The good news is that agents do hallucinate less when grounded with tools. 1:48 Araçlardan kastım arama araçları, veri bağlayıcıları. And I'm talking about tools like search tools, data connectors. 1:53 Kurumsal bilgi kaynakları, hatta API'ler bile olabilir ve RAG gibi geri getirme sistemleri, çok yaygın bir araç kalıbı. Enterprise knowledge sources, it could even be something like APIs, and retrieval systems like RAG, very common tool pattern. 2:04 Ajan bilgiyi gerçekten doğrulayabilir ve kontrol edebilir hale geldiğinde, halüsinasyon dramatik bir şekilde azalır çünkü artık tahmin etmek yerine kontrol edebilir. When the agent can truly verify and check information, it reduces hallucination dramatically because now instead of guessing, it can check. 2:16 Bu, GPS'inize uydu görünümü vermenin gibi. This is like giving your DPS satellite view. 2:20 Ve işten eve dönerken sadece statik bir harita yerine gerçek zamanlı trafik verisi sunmak. And real-time traffic data instead of just a static map to go home after work. 2:26 Aynı zamanda bu çok adımlı akıl yürütme eklenince çıktı artar ve hata oluşma ihtimali de yükselir. And at the same time, adding this multi-step reasoning, it does increase your output and create more opportunities for errors. 2:37 Bazı gelişmiş düşünme modelleri daha yüksek halüsinasyon oranları gösteriyor. And some advanced thinking models do show higher hallucination rates. 2:42 Bu yüzden dikkat edilmesi gereken bir konu. So it's something to watch out for. 2:43 Zor haber ise ajanların daha tehlikeli şekilde halüsinasyon ürettiği. Now the challenging news is that agents do hallucinate more danger. 2:52 Ve daha önceki dönemlere kıyasla daha fazla risk taşıdıkları. And introduce more risk than before. 2:54 Çünkü bu ajan sadece soruları yanıtlamıyor; bilet oluşturma, eylem gerçekleştirme, başka bir amaç için kullanılan verileri güncelleme, randevu planlama gibi işler de yapabilir. Because this agent isn't just answering questions, it might be doing things like creating a ticket, taking an action, and updating a field, updating data, that's used for something else, scheduling meetings. 3:12 Ve farklı adımlardan oluşan bu akıl yürütme zinciri tamamen yanlışsa ve bağlam zayıfsa, ajan o yanlış eylemi gerçekleştirebilir. And if this reasoning chain of different steps is truly all off and the context is thin, the agent can take that wrong action. 3:22 Üstelik bunu tam bir özgüvenle yapar. And do so with complete confidence. 3:25 Peki, halüsinasyonun neden hâlâ yaşandığına bakalım. All right, let's talk about why hallucination still happens. 3:30 Çünkü bugün bile en iyi modeller hâlâ halüsinasyon üretiyor. Because even the best models today still hallucinate. 3:33 Hatta bazı durumlarda model ne kadar yetenekliyse, o kadar özgüvenle yanılabilir. And in some cases, the more capable the model, the more confidently it can actually be wrong. 3:40 Çünkü olası veya doğrulanmamış yanıtlar üretiyorlar. Because they generate plausible or unverified answers. 3:47 Doğrulanmış olanlar değil. Not verified ones. 3:49 Model bir şeyi arayıp bulmuyor, aslında doğru bir yanıtın nasıl sesleneceğini tahmin ediyor. The model isn't looking something up, it's actually predicting what a correct answer would sound like. 3:55 Ve bazen bu tahmin doğru olmuyor. And sometimes that prediction is not correct. 3:59 İkincisi, özgüvenli olmaya eğitim alıyorlar. Second, they're trained to be confident. 4:03 Bu durum bazen aşırı özgüvenli olmalarına neden oluyor. And this can sometimes make them overconfident. 4:07 Bir an için bunu düşünün. Think about that for a second. 4:09 Tereddüt ceza olarak görülüyor. Hesitation gets penalized. 4:13 Akıcılık ise ödüllendiriliyor. Fluency gets rewarded. 4:15 Yani model, emin olmaması gereken durumlarda bile eminmiş gibi konuşmayı öğreniyor. So the model learns to sound sure, even when it shouldn't be. 4:19 Daha yeni modellerimizden bazıları "Bilmiyorum" demekte daha iyi, ama bu hâlâ istisna, kural değil. Some of our newer models are getting better at saying, I don't know, but it's still the exception, not the rule. 4:27 Ve son olarak, bu modeller boşlukları dolduruyor. And then finally, these models fill gaps. 4:32 Veri eksik veya belirsiz olduğunda, model durup açıklama istemiyor. When data's missing or ambiguous, the model doesn't stop and ask for clarification. 4:38 İcat edip uyduruyor. It improvises. 4:39 Ve bu uydurma, gerçek bir cevabın tıpkısı gibi duyuluyor. And that improvisation sounds exactly like a real answer. 4:43 Şimdi bir örnek üzerinden düşünelim. So let's think about an example. 4:46 Diyelim ki bir ajan, bir satın alma ekibine yardım ediyor ve tedarikçi sözleşme tarihini doğrulamaları gerekiyor. Say an agent's helping a procurement team and they gotta validate a vendor contract date. 4:52 Tarihi veriden çekecekler, ama eğer o tarih düzeltilmiş veride yoksa, mesela 12-12-2026 gibi, anında bir tarih uyduracak ve kendinden emin olacak, So they're going to pull the date from the data, but if that date isn't in the corrected data, maybe like 12-12-2026, it's gonna just make up one on the fly, and it's going to be confident, and 5:08 ve ekibiniz hiç var olmayan bu yeni son tarihe göre çalışmaya başlayacak. your team's gonna be working now off that new deadline that never existed. 5:13 Bu, geleneksel anlamda bir hata değil. That's not a bug in the traditional sense. 5:16 Modelin, inşa edildiği şeyi, yani deseni tamamlamayı ve o boşluğu doldurmayı yapması. It's the model doing exactly what it was built to do, to complete the pattern and fill that gap. 5:22 Ama sorun şu ki, desen tamamlama ile gerçek her zaman aynı şey değildir. But the problem is pattern completion and truth aren't always the same thing. 5:28 Peki ne yapabiliriz? So what can we do? 5:31 Öncelikle, ajanı veriye dayandırabiliriz. Well, first we can ground the agent in data. 5:39 Halüsinasyonu azaltmanın en hızlı yolu, ajana güvenilir bir harita vermektir. So the fastest way to reduce hallucination is to give the agent a reliable map. 5:44 Danışmandan işletmenizi denetlemesini istiyorsunuz, ama ona gerçek sistemlerinize erişim vermemişsiniz. Imagine asking a consultant to audit your business, but you haven't given them any access to your actual systems. 5:53 O danışman yine de size bir cevap verecektir. That consultant would still give you an answer. 5:55 Kendinden emin olacaktır, ama bu cevap sizin gerçekliğinizde temellenmeyecektir. They'd be confident, but it wouldn't be grounded in your reality. 6:01 Ve bunun çözümü basit. And the fix for this is straightforward. 6:03 Yapay zeka ajanınızı doğruluk kaynaklarınıza bağlayın. İster SharePoint, ister CRM sistemleri, ister sözleşme deposu, ister API'ler olsun, bu doğruluk hayati önem taşır. Connect the AI agent to your sources of truth. Whether it's SharePoint, CRM systems, contract repository, APIs, that truth is critical. 6:17 Bunu, beş yıl önceki bir harita üzerinde çalışan bir GPS ile canlı veriye sahip olan bir GPS arasındaki fark gibi düşünün. And think of it like the difference between a GPS running on a map from five years ago versus one with live data. 6:24 Eski harita her şeyde yanlış değildir, ancak yeni yolları, kapalı köprüleri veya aylardır rotanızı engelleyen inşaatları bilmez. The old map isn't wrong about everything, but it doesn't know about the new road, the closed bridge, or the construction that's been blocking your route for months. 6:35 İkincisi, araç tabanlı akıl yürütme kullanın. Second, use tool-based reasoning. 6:38 Saf metin tahmininin yerine. Instead of pure text prediction. 6:43 Bunu anlamak için basit bir yol var. Here's a simple way to think about this. 6:46 Bir meslektaşınızdan çeyreklik yanma hızınızı hesaplamasını istediğinizde, ondan bunu hafızasından yapmasını değil, bir tablo sayfası açmasını istersiniz. If you ask a colleague to calculate your quarterly burn rate, you want them to open up a spreadsheet, not just do it from memory. 6:55 Ancak bir ajana sadece cevap yazması dayatıldığında, bunu tamamen kendi hafızasından yapar. But an agent forced to just write an answer, it's doing it exactly from that, their memory. 7:03 Doğru cevabın nasıl görüneceğini tahmin eder, ama aslında hesaplamayı gerçekleştirmez. And it's predicting the right answer, what it looks like, but not actually computing it. 7:08 Çözüm ise arka planda o ajana araçlara erişim sağlamaktır. And the fix is to go behind the scenes and give that agent access to tools. 7:13 Böylece yanıt vermeden önce, bir hesap makinesi ve canlı veriyi sorgulamak için API'ler kullanarak gerçeği kontrol edebiliriz. So we can check reality before responding, using a calculator and APIs to query live data. 7:22 Bir yolun açık olduğunu varsayan bir GPS, sizi doğrudan bir sapma yoluna sokar. A GPS that assumes a road is open will drive you straight into a detour. 7:28 Ancak rotanızı belirlemeden önce canlı trafiği, yol kapatmalarını ve koşulları kontrol eden GPS'e güvenebilirsiniz. One that checks live traffic, road closures, and conditions before routing you, that one you can trust. 7:36 İşte tahmin eden ajan ile doğrulayan ajan arasındaki fark budur. And that's the difference between the agent that predicts and one that verifies. 7:41 Ve araçlarla hâlleseynasyonu (hallucination) gerçekten azaltan değişim de budur. And that the shift that actually moves this needle on hallucination with tools. 7:47 Üçüncüsü, kapsamınızı kontrol etmelisiniz. Third, you have to control your scope. 7:53 Bu hayati önem taşır. And this is critical. 7:55 Ajan gerçek sınırlarını bilmediğinde hâlleseynasyon (hallucination) gerçekten artar. Hallucination truly grows when the agent doesn't know where the true boundaries. 8:04 Alanında son derece parlak ve akıllı birini düşünün. Think about somebody who is generally brilliant and so smart in their domain. 8:09 Belki memleketi olan şehri çok iyi bilir, ama ona on yıl önce gittiği ve artık günlük yaşamını sürdürmediği bir yerle ilgili bir soru sorduğunuzda... So maybe they know all about a city they're from, but you've asked them a question from a place they've been maybe 10 years ago and they don't live every day. 8:20 "Bu benim alanım değil" demiyorlar. They don't say that's not my area. 8:22 Oraya gittiklerini hatırlıyorlar ve her şeyde olduğu gibi aynı özgüvenle cevap veriyorlar. Oh, they remember when they went there and they just answer with that same confidence that they bring to everything else. 8:29 Bu, kapsam sınırları olmayan, kendi alanında son derece yetkin bir ajan. That's an agent without scope boundaries, highly capable inside their lane. 8:35 Ancak kendi alanının dışında çalıştığında gerçekten tehlikeli. But genuinely dangerous when they're operating outside of it. 8:42 Bu yüzden ajanınızın çalışma alanlarını tanımlayın. So define the lanes of your agent. 8:45 Ajanın ne yapabildiğini, ne yapamadığını, verinin nereden geldiğini ve hangi iş akışlarının onay gerektirdiğini açıkça belirtin. Be explicit about what the agent can do, what it can't, where the data comes from, and which workflows need sign off. 8:53 Kapsamınız ne kadar dar ise, modelin sapma alanı o kadar az olur ve özgüvenli yanlış cevapların sızma ihtimali o kadar düşer. The tighter your scope, the less room for the model to wander and less opportunity for confident wrong answers to slip through. 9:04 Dördüncüsü. Fourth. 9:06 Sürece bir insanı dahil edin. Add a human to the loop. 9:12 Her şeyin tamamen otomatik olması gerekmez ve dürüst olmak gerekirse olmamalı da, bu yüzden en yüksek ve en önemli kararlarınızı düşünün. Not everything should be fully automated and honestly, not everything should be, so think about your highest, most important decisions. 9:22 Yapay zeka gerçekten hızlı ve çok kapsamlı bir taslak olmalı. The AI should really be a fast, very thorough first draft. 9:27 Ajan önerir, insan inceler ve aslında o nihai onayı verir. The agent proposes, a human reviews, and actually does that final approval. 9:33 Eğer bir teknoloji hatası değilse, iyi bir sistem tasarımıdır. If it's not a failure of the technology, it's good system design. 9:39 Ve bu sadece halüsinasyonları yakalamakla sınırlı kalmayan bir mesele; döngüdeki insan, hiçbir modelin gerçekten taklit edemeyeceği yargıyı, bağlamı ve hesap verebilirliği gerçekten ekler. And this matters beyond just catching hallucinations, but a human in the loop truly adds the judgment, context, and accountability that really no model can truly replicate. 9:51 Bunu uzun bir otoyol yolculuğundaki hız sabitleyici gibi düşünün. Think of it just like cruise control on a long highway drive. 9:55 Düz kilometreleri gayet iyi halleder, ama rampaya girişte, şerit değiştirmede ve yolun size beklenmedik olarak sunduğu her şeyde direksiyonda bir sürücü ister. It handles the steady miles just fine, but you still want a driver in the seat for the on-ramp, the merge, and anything that the road throws at you unexpectedly. 10:06 Ajan halüsinasyonu sadece teknik bir sorun değil, gerçekten bir tasarım tercihidir. Agent hallucination isn't just a technical problem, it's truly a design choice. 10:15 Bu otomatik olarak gerçekleşmez. That doesn't happen automatically. 10:18 Bunu o şekilde inşa eden biri olmalı ve o kişi sizsiniz. Someone has to build it that way and that someone is you. 10:22 İşte size meydan okuma. So here's the challenge. 10:24 Şu an çalıştırdığın ajan ya da yapay zeka iş akışına bir bak. Look at whatever agent or AI workflow you're running right now. 10:28 Çünkü seni o göle sürükleyen yapay zeka ile seni gerçekten varış noktasına ulaştıran yapay zeka arasındaki fark modelde değil, senin yaptığın tasarım tercihlerinde. Because the difference between an AI that drives you into that lake and one that truly gets you where you're going isn't the model, it's the design choices that you make. Altyazı bilgisayarımda üretildi ve videoyla ilerler; bir satıra tıklayın, o ana atlasın. Subtitles generated on my computer; they follow the video — click a line to jump there.
AI ajanları araçlarla desteklenerek halüsinasyon riskini azaltsa da, otonom sistemlerde hata dinamikleri temel LLM'lere göre köklü biçimde değişmektedir. Although AI agents, when augmented with tools, reduce the risk of hallucination, the error dynamics in autonomous systems undergo a fundamental shift compared to those of base LLMs.
Bu video youtube.com üzerinde yayımlandı; buradaki oynatıcı YouTube’undur. Türkçe özet ve altyazı AiPulse için hazırlanmıştır. This video is published on youtube.com ; the player here is YouTube’s. The Turkish summary and subtitles are prepared for AiPulse .
YouTube’da izle Watch on YouTube AI Kritik → AI Critique →