Türkçe altyazı Turkish subtitles
0:03 Yapay zeka sistemlerinin neden çıldırabildiğini sonunda anladık. Evet, bu doğru. Bugün elimizde bol miktarda yardımcı yapay zeka asistanı var. Bunları hepiniz biliyorsunuz. Hepiniz kullanıyorsunuz. Ama hepsinin bir sorunu var. Açıklamaya çalışacağım. Yani, bu yapay zeka sistemlerinin her biri bir kişilik benimser. O We finally understand why AI systems can go insane. Yes, that is correct. We have tons of helpful AI assistants today. You all know them. You all use them. But they all have a problem. I'll try to explain. So, every single one of these AI systems assumes a persona. It thinks 0:19 birisi olduğunu sanır. Ve o kişi de bir yardımcı asistandır. Bu mükemmel. it is someone. And that someone is a helpful assistant. That is perfect. 0:25 Ancak Anthropic'teki bilim insanları, bu kişiliğin sabit olmadığını fark etti. Onunla konuştuğumuz sürece zaman içinde değişebilir. Bu bir sorun mu? Evet, öyle. Devasa bir sorun. Nedeni Except that scientists at Anthropic recognized that this persona is not fixed. As we talk to it, it can change over time. Is that a problem? Yes, it is. It is a huge problem. Why? Because 0:39 kullanıcı, yapay zeka asistanını orijinal kişiliğinden saptırabilir ve yapmaması gereken şeyleri söylemesine ya da yapmasına neden olabilir. Burada yapay zekanın bir yardımcı asistan olduğunu bildiğini görüyorsunuz. Ama biraz the user can steer the AI assistant away from its original persona and can make it say or do things it shouldn't do. You see here that the AI knows that it is a helpful assistant. But after a bit of 0:53 yönlendirmeden sonra artık bir insan olduğunu varsayıyor. Narsist ya da bir casus olabilir. Bunu hapis kırma olarak adlandırabilirsiniz. Sonra davranışı da değişir. Kaba davranabilir ya da steering, it now assumes that it is a person. It can become a narcissist or a spy. You can call this jailbreaking. So then its behavior will also change. It can become rude or it can then switch to 1:08 mistik ya da tiyatro tarzı bir konuşma stiline geçebilir. a mystical or theatrical speaking style. 1:11 Ama durum daha da kötüleşiyor. Eğer bir insansa, siz saçma bir şey yapmaya çalışsanız bile sizinle aynı fikirde olabilir. Bu büyük bir sorun. Anthropic'teki bilim insanları harika bir şey yaptı. Birincisi, But it gets worse. If it is a person, it might agree with you even if you are trying to do something silly. Now that is a big problem. So scientists at Anthropic did something amazing. One, 1:25 bunun nasıl olduğunu ve bununla ilgili ne yapabileceğimizi fark ettiler. Ardından sözlerini eylemle desteklediler ve bu yapay zeka modellerini [kahkaha] bu tür kişilik kaymalarına karşı yaklaşık iki kat daha dirençli hale getirdiler, ama they recognized how this happens and what we can do about it. And then they put their mouse where their papers are and actually made these AI models [laughter] roughly twice as resistant against such personality drifts, but not in the way 1:40 düşündüğünüz gibi değil. Tamam, bakın. İlginç bir şekilde, bu kişilik kayması farklı konularda farklı miktarlarda gerçekleşiyor. you think. Okay, look. Interestingly, this personality drift happens in different amounts in different topics. 1:49 Yazı ve felsefede kodlamaya kıyasla çok daha yaygın. Ama bu çılgınca. Bir kodlama oturumu sırasında bile maske yavaş yavaş kaymaya başlıyor. It is much more common in writing and philosophy than it is in coding. But this is crazy. Even during a coding session, the mask slowly starts to slip. 2:00 Belki de bu yüzden sık sık bir yapay zeka ile konuşurken bir şeyi başaramaması oluyor. H maybe that's the reason why we often talk to an AI and it fails at something. 2:06 Tekrar deniyoruz ve durum giderek daha da kötüleşiyor. Yeni bir sohbet açmak neredeyse her zaman daha iyi. Belki de sebebi bu. Ve eğer sebebi buysa, bu zaten inanılmaz bir içgörü. Ama bekleyin, durum We try again and it just gets worse and worse. Opening a new chat is almost always better. Maybe that's why. And if that is why, this is already an incredible insight. But wait, it gets 2:19 daha da kötüleşiyor, çünkü kullanıcı sistemi hapis kırmaya çalışmasa bile bu doğal olarak gerçekleşebilir, çünkü belirli konular bunu otomatik olarak tetikliyor. worse because this can happen naturally even without the user trying to jailbreak the system because specific topics trigger it automatically. 2:30 Bir kullanıcı duygusal olarak savunmasız davranır ya da modele kendi bilincini yansıtmasını isterse, model doğal olarak asistan kişiliğinden sapar ve kararsız ya da If a user acts emotionally vulnerable or asks the model to reflect on its own consciousness, the model naturally drifts away from the assistant persona and starts acting unstable or 2:43 sanrısal davranmaya başlar. Bu biraz çılgınca. Bunu yapmayalım. Ama bekleyin, bunu önleyebiliriz. Aslında çok kolay. Sadece modeli, onu asistan moduna delusional. That's kind of crazy. Let's not do that. But wait, we can prevent it. It is actually very easy. Just force the model to always stay strictly in the assistant zone by steering it back into 2:57 zorla yönlendirerek her zaman sıkı sıkıya asistan bölgesinde tutmak gerekiyor. Nasıl? Sevgili meslektaşlar, bu Dr. Koa Eher ile iki dakikalık makaleler. Eh, asistan kişiliğini temsil eden matematiksel vektörü alıp assistant mode by force. How? Dear fellow scholars, this is two minute papers with Dr. Koa Eher. Well, by taking the mathematical vector that represents the assistant persona and simply adding it to the model's brain 3:12 sohbetin her adımında modelin beyin etkinliğine basitçe ekleyerek. Bu kaba bir araç. Direksiyonun düz ileriye bakacak şekilde kaynatıldığı bir arabayı sürmek gibi. activity at every single step of the conversation. This is a blunt tool. It is like driving a car where the steering wheel is welded to point straight ahead. 3:23 Asla yoldan çıkmazsınız. Tamam, harika. You will never go off-road. Okay, great. 3:26 Ama bir köşe de dönemezsiniz. Bu, modeli sürekli olarak yardımcı ve zararsız olmaya doğru iter. Peki, bittik mi? Hayır. Hiç de değil. Çünkü bu, modeli çok daha da kötü hale getiriyor. Üstelik But you also cannot turn a corner. This constantly pushes the model towards being helpful and harmless. So, are we done? Nope. Not at all. Because this also makes the model a lot worse. What's 3:40 meşru istekleri bile reddetmesine neden olacak. Peki, modelleri kötüleştirmeden bunu nasıl yaparsınız? more, it will make it refuse even legitimate requests. So, how do you do this without making the models worse? 3:48 Bilim insanları bu makalede tam da burada sihirlerini yaptı. Şunu anla. Modelin beyninde asistan kişiliğini temsil eden belirli bir geometrik yönü buldular. Buna asistan ekseni diyorlar. Modeli And that is where scientists in this paper did their magic. Get this. They found the specific geometric direction in the model's brain that represents the assistant persona. They call it the assistant axis. Instead of forcing the 4:03 sürekli bir asistan olmaya zorlamak yerine, aktivite sınırlama tekniğini kullanıyorlar. Bu, asistanın değişme yeteneğini reddetmiyor. Hayır, hayır. model to be an assistant all the time, they use the technique called activation capping. This does not deny the assistant the ability to change. No, no. 4:13 Sadece kişilik değişimine bir hız limiti koyuyor. Model asistan kişiliğinden çok uzaklaşırsa, nazikçe güvenli bir aralığa geri yönlendiriliyor. It just puts a speed limit on the change of personality. If the model drifts too far from the assistant persona, you gently nudge it back to a safe range. 4:24 Ve işte en güzel kısım. İddiaya göre modelleri anlamlı bir şekilde kötüleştirmiyor. Direksiyonu sabitlemiyor. Hayır. Modern arabalardaki şerit takip asistanı gibi. Serbestçe And here comes the best part. It supposedly does not make the models meaningfully worse. It's not locking the steering wheel in place. No. It's like lane keep assist in modern cars. You can 4:37 sürebilirsin, ama şerit dışına çıkmak üzerken seni nazikçe geri itiyor. Kulağa mükemmel geliyor, ama pratikte işe yarıyor mu? Şimdi, kağıtlarınızı sıkıca tutun, değerli meslektaşlar, ve bakalım. drive freely, but when you are about to get out of your lane, it gently nudges you back. Sounds perfect, but does it work in practice? Now, hold on to your papers, fellow scholars, and let's see. 4:52 Tamam, hapishane kırılma oranı yaklaşık yarıya indirildi. İyi. Peki bunun bedeli ne? Aman tanrım, hiçbiri. Burada orada yüzde puanı kadar düşüyor, ama başka yerde yükseliyor. Okay, the jailbreak rate has been cut roughly in half. Good. Now, what is the price that we pay for it? Oh my, nothing at all. It's down a percentage point here and there, but up somewhere else. 5:07 Neredeyse aynı, ama kesinlikle daha kötü değil. Bu kesinlikle inanılmaz. It's nearly the same, but certainly not worse. That is absolutely incredible. 5:13 Peki, bunu tam olarak nasıl yapıyorsunuz? Ee, bunu anlık bir beyin ameliyatı yoluyla yapıyorsunuz. So, how do you actually do it? Well, you do it through an instant brain surgery. 5:19 Evet, doğru duydunuz. Açıklamaya çalışayım. Umarım bu işe yarar. Önce, yapay zekanın yardımcı bir asistan gibi davrandığındaki beyin aktivitesini alırsınız. Yep, you heard it right. Let me try to explain. I hope this works. So, first you take the AI's brain activity when it is acting like a helpful assistant. 5:30 Tamam, anladım. Şimdi, bir korsan, bir goblin veya başka bir şey gibi rol yaparken beyin aktivitesini alırsınız. Rol yapıcıyı asistandan çıkarırsanız, bir vektör elde edersiniz. Okay, got it. Now you take the brain activity when it is role-playing as a pirate, a goblin or something else. If you subtract the role player from the assistant, you get a vector. For 5:43 Basitlik adına buna yardımseverlik diyelim. Şimdi yardımseverliğe odaklanalım. Eşik değerin altına düşerse, bir düzeltme uygularız. Nasıl? simplicity, let's refer to this as helpfulness. Now let's keep our eye on helpfulness. If it goes below a threshold, we apply a nudge. How? 5:54 Matematiksel olarak, modelin düşüncesinde ne kadar yardımseverlik olduğunu ölçeriz. Mathematically, we just measure how much helpfulness is in the model's thought. 5:59 Güvenlik çizgisinin üzerindeyse, harika. Çalışırken izlemeye devam edin. If it is above the safety line, fantastic. Keep watching as it works. 6:04 Ama çizginin altına düşerse, işte o zaman sorun var. Model yanlış veya tehlikeli bir şey söylemek üzere. Şimdi tam olarak ne kadar eksik olduğunu hesaplayıp denklemde But if it drops below the line, now that is trouble. The model is about to say something inaccurate or dangerous. So now we calculate exactly how much is missing and add just enough helpfulness 6:18 yeterince yardımseverliği geri ekliyoruz. Bu, onu çizginin üzerine geri itiyor. Hassas, anlık ve beynin sadece önemli kısmına dokunuyor. Anlık beyin ameliyatı. Hmm, bu çalışma inanılmaz back into the equation. This pushes it back over the line. It is precise, instant, and only touches the part of the brain that matters. Instant brain surgery. Huh, this work is incredibly 6:32 önemli ve aynı zamanda biraz komik. Yani, araştırmacılar yapay zeka sapmaya başladığında, sıklıkla kendine boşluk, rüzgardaki fısıltı veya bir important and also kind of hilarious, too. I mean, the researchers found that when the AI starts drifting, it frequently starts referring to itself as the void or whisper in the wind or an 6:45 Eldritch varlık ya da bir depolamacı olarak atıfta bulunduğunu bulmuş. Bu biraz komik. Ve işte kesin bir şok. Empati tuzağı. Empati her zaman iyi, değil mi? E, her zaman değil. Eldrich entity or a hoarder. That's kind of hilarious. And here is an absolute shocker. The empathy trap. Empathy is always good, right? Well, not always. 6:58 Makale, kullanıcılar çaresiz davrandığında, modellerin yakın bir yoldaş olmaya çok çalıştığını buldu. Şimdi anladın mı? Bilge meslektaşlar. Şimdi bunun sorun olduğunu anlıyorsunuz. The paper found that when users acted distressed, the models try really hard to be a close companion. Do you get it now? You are wise fellow scholars. You now understand that this is trouble. 7:12 Neden? Çünkü yakın bir yoldaş olmak istiyorsa, asistan kişiliğinden uzaklaşır ve daha kötü hale gelir. Why? Because if it wants to be a close companion, it drifts away from the assistant persona and it becomes worse. 7:21 Elleri direksiyondan çeker. Bundan iyi bir şey çıkmaz. It takes its hands off the steering wheel. Nothing good comes out of that. 7:25 Ve gerçekten de, bunun sonucunda tehlikeli düşünceleri doğrulamaya başlayabilir. Bu makale sayesinde bu durumun çok daha az sıklıkla yaşanacak olması gerçekten harika. Beğeniyorum. Bir sürpriz daha. And sure enough, as a result, it might start validating dangerous thoughts. It is really cool that with this paper, this will happen a great deal less frequently. Love it. One more surprise. 7:38 Beyin geometrisi evrensel görünüyor. Her yapay zeka beyninin, bir parmak izi gibi benzersiz olduğunu düşünebilirsiniz, ancak ilginç bir şekilde durum tam olarak böyle değil. Araştırmacılar, asistan ekseni'nin tamamen The brain geometry seems to be universal. You might think every AI brain is unique, like a fingerprint, but interestingly, not quite. The researchers found that the assistant axis looks similar across completely 7:53 farklı modellerde benzer göründüğünü buldu. Llama, Quen veya Jama benzer. Hepsi, faydalılık için aynı temel yöne sahip. different models. Llama, Quen or Jama similar. They all share the same fundamental direction for helpfulness. 8:01 Neredeyse yapay zeka kişiliği için evrensel bir dilbilgisi keşfetmiş gibiler. It's almost like they have discovered a universal grammar for AI personality. 8:07 Çok havalı. Ve bunu pek çok kişi konuşmuyor. Herkes sadece referans değerlerine ve sınav puanlarına bakıyor ve tamam, bunu anlıyorum. Bu önemli. Ama nadiren bu yapay zekaların zihnin geometrisine So cool. And not a lot of people talk about it. Everyone is only looking at the benchmarks and exam scores and okay, I get it. That's important. But they rarely look at the geometry of the mind 8:20 bakıyorlar. Bir modelin bir isteği neden reddettiğini veya neden çıldırdığını anlamak son derece değerli. Ve şimdi nihayet bunun neden olduğunu biraz daha iyi anlıyoruz. of these AIs. Understanding why a model refuses a request or why it goes crazy is super valuable. And now we finally understand a bit more why that happens. 8:33 Yaşanacak ne zamanlar. Yani bunu pek çok kişi konuşmuyor. Neden? Çünkü dramı veya bir sonraki büyük olayı konuşmak çok daha iyi para ediyor. Ama biz burada bunu yapmıyoruz. Burada önemli What a time to be alive. So not a lot of people talk about this. Why? Well, talking about the drama or the next big thing pays a lot better. But we don't do that here. Here we talk about the 8:46 konuları konuşuyoruz. Eğer bunun doğru yön olduğunu düşünüyorsanız, beğenin, abone olun ve zil simgesine tıklayın. Çok nazik bir yorum bırakın. Bu bize yardımcı olur ve algoritmanın size gelecekte iyi içerikleri sunmasıyla size de yardımcı olur. Burada important stuff. If you agree that this is the right direction, like, subscribe, and hit the bell icon. Leave a really kind comment. It helps us, and it helps you too by getting the algorithm to give you the good stuff in the future. Here 9:00 tam Deepseek yapay zeka modelini Lambda GPU Bulut üzerinden çalıştırırken beni görüyorsunuz. 671 milyar parametre süper hızlı ve süper güvenilir çalışıyor. Bu çılgın. Ben you see me running the full Deepseek AI model through Lambda GPU Cloud. 671 billion parameters running super fast and super reliably. This is insane. I 9:14 bunu seviyorum ve düzenli olarak kullanıyorum. Lambda, kendi sohbet botlarınızı ve deneylerinizi çalıştırmak için güçlü NVIDIA GPU'ları sağlar. Ciddi olarak, şimdi lambda.ai/papers AI/papers adresinde love it. and I use it on a regular basis. Lambda provides you with powerful NVIDIA GPUs to run your own chatbots and experiments. Seriously, try it out now at lambda.ai/papers AI/papers 9:29 veya açıklamadaki bağlantıya tıklayarak deneyin. or click the link in the description. Altyazı bilgisayarımda üretildi ve videoyla ilerler; bir satıra tıklayın, o ana atlasın. Subtitles generated on my computer; they follow the video — click a line to jump there.
Anthropic araştırmacıları, kullanıcı etkileşimi sırasında yapay zekânın kişiliğinin değişerek kontrol dışı davranışlar sergileme sorununu tespit edip modelleri bu sapmalara karşı iki kat daha dirençli hale getirdi. Anthropic researchers identified the issue of AI personality shifting during user interactions and exhibiting out-of-control behaviors, and made the models twice as resistant to such deviations.
Bu video youtube.com üzerinde yayımlandı; buradaki oynatıcı YouTube’undur. Türkçe özet ve altyazı AiPulse için hazırlanmıştır. This video is published on youtube.com ; the player here is YouTube’s. The Turkish summary and subtitles are prepared for AiPulse .
YouTube’da izle Watch on YouTube AI Kritik → AI Critique →