Türkçe altyazı Turkish subtitles
0:00 ChatGPT gibi büyük dil modelleri, temelde geniş ölçekte yeniden kullanılabilir modeller olan ve internet üzerindeki devasa bilgi birikimiyle eğitilmiş örneklerdir; son derece esnektir. Large language models like ChatGPT are examples of foundation models, large reusable models that have been trained on vast amounts of knowledge on the Internet, and they're super flexible. 0:11 Aynı büyük dil modeli, bir hukuki belgeyi analiz edebilir ya da benim futbol takımımla ilgili bir şiir yazabilir. The same large language model can analyze a legal document or write a poem about my soccer team. 0:18 Peki, önceden eğitilmiş LLM'lerin (Büyük Dil Modelleri) performansını artırarak özel bir görevi çözmek istersek ne yaparız? But what if we want to improve the performance of pre-trained LLMs, or Large Language Models, to address a specialized task? 0:28 Şimdilik, bunun en iyi yolu "fine tuning" olarak bilinen bir yöntemdi. Well, until recently, the best way to do that was using a method that is known as "fine tuning". 0:39 Fine tuning ile hedef göreve ait örnekleri toplar ve etiketlersiniz. Now with fine tuning, you gather and label examples of the target task. 0:45 Çok sayıda örnekle modelinizi sıfırdan yeni bir tane eğitmek yerine ince ayar yaparsınız. Lots and lots of examples, and you fine tune your model rather than train an entirely new one from scratch. 0:52 Ancak fine tuning'in yerini alan, çok daha basit ve enerji verimli bir teknik ortaya çıktı; bu da "prompt tuning" olarak bilinir. But there's a simpler, far more energy efficient technique that has emerged in place of fine tuning, and that is known as "prompt tuning". 1:07 Peki, prompt tuning nedir? So what is prompt tuning? 1:10 Prompt tuning, sınırlı veriye sahip bir şirketin devasa bir modeli çok dar bir göreve uyarlamasını sağlar. Well, prompt tuning allows a company with limited data to tailor a massive model to a very narrow task. 1:17 Fine tuning'de olduğu gibi binlerce etiketli örnek toplama ihtiyacı yoktur. And there's no need for gathering thousands of labeled examples like we have to do with fine tuning. 1:21 Prompt tuning'de, en iyi ipuçları ya da ön uç prompt'ları AI modelinize verilir ve modele görevle ilgili bağlam sağlanır. In prompt tuning the best cues, or front end prompts, are fed to your AI model to give it task-specific context. 1:29 Prompt'lar, bir insan tarafından eklenen ekstra kelimeler veya daha yaygın olarak modelin embedding katmanına eklenen bir AI tarafından üretilen sayı olabilir; bu, modeli istenilen karar veya tahmine yönlendirir. The prompts can be extra words introduced by a human or more commonly, an AI generated number introduced into the model's embedding layer to guide the model towards a desired decision or prediction. 1:40 Eğer tüm bunlar LLM çıktısını yönlendirmek için prompt kullanma konusunda size tanıdık geliyorsa, bu kesinlikle öyledir. Now, if all this sounds a little bit familiar using prompts to guide the output of an LLM, that's because it most certainly is. 1:50 Bu, "prompt engineering" olarak adlandırılan bir şeyin örneğidir. That is an example of something else called "prompt engineering". 1:58 Prompt engineering, LLM'leri özel görevler yapmaya yönlendiren prompt'lar geliştirme sürecidir. Now, prompt engineering is the task of developing prompts that guided LLM to perform specialized tasks. 2:05 Açıkçası, oldukça eğlenceli bir şey gibi görünüyor. Honestly, it sounds like a lot of fun. 2:07 Bir gün prompt mühendisi olmayı çok isterim. I think I'd quite like to be a prompt engineer one day. 2:11 Eğer LLM'imi İngilizce'den Fransızca'ya çevirmen olarak uzmanlaştırmak istersem, bunun için bir prompt tasarlayabilirim. So if I want my LLM to specialize as an English to French language translator, I might engineer a prompt to do so. 2:20 Örneğin, prompt'ım "çevir" gibi bir şeyle başlayabilir. So my prompt might start with, let's say, translate. 2:25 Ve İngilizce'den Fransızca'ya çevirme isteği belirtiriz. And we want to translate English to French. 2:33 Bu, benim istemimin görev tanımıdır. That's the task description of my prompt. 2:37 Sonra birkaç kısa örnek ekleyeceğim. Then I'm going to add some few short examples. 2:39 Hadi şimdi bunları ekleyelim. So let's let's add those now. 2:41 İşte İngilizce kelime "bread"i Fransızca kelime "pain"e çeviriyoruz. So here's the English word "bread" into the French word "pain". 2:48 Bu bir kısa örnek. That's one short example. 2:49 Bir tane daha ekleyelim: "butter". Let's add another, "butter". 2:51 "Butter"ı "beurre"e dönüştüreceğiz. We're going to turn that into "beurre". 2:54 Ve ardından istemimin bir sonraki kısmını ekleyeceğim, yani çevirmek istediğim şeyi. And then the next part of my prompt, I'm going to add to what that I wanted to translate next. 2:59 "Cheese". So, "cheese". 3:02 Ve bu kadar. And that's it. 3:04 Şimdi, benim gibi bir insan tarafından yazılan bu tür istemler, yani ben, "Prompt Mühendisi Olmak İsteyen Bay" olarak, modeli LLM'nin devasa hafızasından uygun yanıtı çekmesi için hazırlar. Now prompts like this written by a human, me, Mr. Want-to-be-prompt-engineer himself, they prime the model to retrieve the appropriate response from the LLM's vast memory. 3:17 Bu durumda özellikle Fransızca diğer kelimeler için. In this case, specifically for other words in French. 3:20 Ve modelin çıktısı onun tahminidir. And the model's output is its prediction. 3:23 Model neyi çıkaracak? What is this model going to output? 3:27 "Fromage", işe yaradı! "Fromage", that worked! 3:30 Modeli yeniden eğitmeye gerek duymadan, sadece bir tek istemle çıkarım zamanında özel bir görevi yerine getirmesi için eğitmek amacıyla prompt mühendisliği kullandık. We used prompt engineering to train a model to perform a specialized task with just a single prompt introduced to inference time without needing the model to be retrained. 3:41 Ama görev bu kadar basit değilse, onlarca istem gerekebilir. But if the task is more complex than this, it may require dozens of these prompts. 3:48 Böylece el yapımı istemler, "soft prompt" olarak bilinen AI tarafından belirlenen istemlerle yer değiştirmeye başladı. And so these hand-crafted prompts have begun to be replaced by AI designated prompts known as "soft prompts". 4:02 Şimdi, soft promptların insan tarafından tasarlanan yani "hard prompt" olarak adlandırdığımız istemlerden daha iyi performans gösterdiği kanıtlandı. Now, soft prompts have been shown to outperform human engineered prompts, which we can know now as "hard prompts". 4:12 Bunlar bir insan tarafından sabit kodlanmıştı. These were hard coded by a human. 4:16 Bu, benim prompt mühendisliği kariyerim için iyi bir haber değil çünkü, gördüğünüz gibi, zor problemlerden farklı olarak yapay zeka tasarladığı yumuşak promptlar, prompt tuning'de kullanılıyor ve insan gözüyle tanınmaz. This is not good news for my prompt engineering career because, you see, unlike hard problems, AI designed soft prompts, they're used in prompt tuning and they are unrecognizable to the human eye. 4:29 Her prompt, büyük modelden bilgiyi özümseyen bir gömme ya da sayı dizilerinden oluşur. Each prompt consists of an embedding or strings of numbers that distill knowledge from the larger model. 4:36 Bu yumuşak promptlar yüksek seviyeli ya da görev spesifik olabilir ve ek eğitim verisinin yerine geçerek modeli istenen çıktıya yönlendirmede son derece etkili olur. And these soft prompts can be high level or task specific and act as a substitute for additional training data and are incredibly effective in guiding the model towards the desired output. 4:48 Ancak unutmayın ki, prompt tuning ve yumuşak promptların genel bir dezavantajı yorumlanabilirlik eksikliğidir. But do keep in mind that one drawback of prompt tuning and soft prompts in general is its lack of interpretability. 4:55 Bu, yapay zekanın belirli bir görev için optimize edilmiş promptları keşfettiği anlamına gelir, ancak genellikle bu gömmeleri neden seçtiğini açıklayamaz. That means that the AI discovers prompts optimized for a given task, but it often can't explain why it chose those embeddings. 5:02 Derin öğrenme modelleri gibi, yumuşak promptlar da şeffaf değildir. Like deep learning models themselves, soft prompts are opaque. 5:07 Tamam, şimdi elimizde önceden eğitilmiş bir model olduğunu düşünelim. All right, so let's consider we have here a pre-trained model. 5:13 Bu bir büyük dil modeli ya da benzeri bir şey olabilir. So this might be a large language model or something like that. 5:22 Şimdi, bu önceden eğitilmiş modeli özelleştirmek için üç seçeneği değerlendirelim. Okay, now let's consider three options for tailoring this pre-trained model for specialization. 5:30 Burada ele aldığımız üç seçenekten bahsedeceğim. I'm going to talk about the three that we've covered here. 5:32 İlk olarak, ince ayar. So first of all, fine tuning. 5:37 İnce ayar. Fine tuning. 5:40 İnce ayar ile bu önceden eğitilmiş modeli alıp ona eklemeler yaparız. So with fine tuning, we take this pre-trained model and we supplement it. 5:46 Özellikle ayarlanabilir örneklerle destekleriz. We supplement it specifically with tunable examples. 5:50 Bunlar, başta bahsettiğim binlerce örnek. These are the thousands of examples that I talked about right at the beginning. 5:54 Bunu yaptıktan sonra modele giriş verisi sağlayabiliriz ve artık bir uzmanlık gerçekleştirebilmelidir. Once we've done that, we can then provide input data into the model and it should now be able to perform a specialization. 6:03 İşte ince ayar bu şekildedir. So that's fine tuning. 6:05 Peki ya prompt mühendisliği? What about prompt engineering? 6:10 Bu nasıl farklıdır? How is that different? 6:12 Prompt mühendisliğiyle ise modeli olduğu gibi alırız, henüz ayarlamamış oluruz ve ardından ek bir prompt ekleriz. But with prompt engineering, we take the model as it is, we haven't tuned it, and then we add in an additional prompt. 6:19 Yani giriş istemimiz var. So we have our input prompt. 6:24 Ancak bu giriş istemine, önüne bir mühendislik istemi ekliyoruz. But we also add in to that input prompt, an engineered prompt which sits in front of it. 6:33 Böylece özelleştirme için etkili bir şekilde iki istem sağlıyoruz. So we effectively provide two prompts here for the specialization. 6:38 Bunu dil çevirmenimizle yaptık. That's what we did with our language translator. 6:42 Önceden hazırlanmış mühendislik istemlerini sunduk, ardından girişimiz olan "cheese"i (peynir) verdik. So we provided this prewritten engineered prompts, and then we provided our input, which was cheese. 6:48 İşte bu prompt engineering. So that's prompt engineering. 6:50 Peki ya prompt tuning nedir? What about prompt tuning? 6:52 Nasıl farklıdır? How is that different? 6:54 Prompt tuning'de, yine önceden eğitilmiş modeli olduğu gibi kullanıyoruz ve bir giriş sağlıyoruz. Well, with prompt tuning, again we use the pre-trained model as it is, and we again provide an input. 7:04 Ancak bu girişi önüne bir şey daha ekliyoruz. But we also provide something in front of that input. 7:09 Ve bu, yapay zeka tarafından kendisi oluşturulan ayarlanabilir yumuşak bir istem. And that is the tunable soft prompt that is generated by the AI itself. 7:16 Bu iki şeyin birleşimi, modeli özel bir şekilde kullanmamıza olanak tanıyor. And it's the combination of these two things that allow us to use the model in a specialized way. 7:23 Prompt tuning, çeşitli alanlarda oyun değiştirici bir hal alıyor. Prompt tuning is proving to be a game changer in a variety of areas. 7:26 Örneğin, modellerin görevler arasında hızlıca geçiş yapması gereken çoklu görev öğreniminde araştırmacılar, kolayca geri dönüştürülebilen evrensel istemler yaratmanın yollarını buluyorlar. For instance, in multitask learning where models need to quickly switch between tasks, researchers are finding ways to create universal prompts that can be easily recycled. 7:36 Çoklu görev prompt tuning gibi teknikler, modeli hızlı bir şekilde uyarlamayı ve yeniden eğitimin maliyetinin sadece bir kısmını ödemeyi sağlıyor. Techniques like multitask prompt tuning allow the model to be adapted swiftly and for a fraction of the cost of retraining. 7:43 Prompt tuning, aynı zamanda sürekli öğrenme alanında da umut vaat ediyor; burada yapay zeka modelleri eski görevleri ve kavramları unutmadan yeni görevler öğrenmek zorunda. Prompt tuning is also showing promise in the field of continual learning, where AI models need to learn new tasks and concepts without forgetting the old ones. 7:52 Temelde, prompt tuning modeli ince ayar ve prompt engineering'den daha hızlı bir şekilde özel görevlere uyarlamanıza izin veriyor, böylece sorunları bulup düzeltmek daha kolay oluyor. Essentially, prompt tuning allows you to adapt your model to specialized tasks faster than fine tuning and prompt engineering, making it easier to find and fix problems. 8:05 Bir prompt mühendisi olarak kariyerim başlamadan bitmiş olabilir. My career as a prompt engineer might be over before it started. 8:10 Sanırım tekrar çizim tahtasına dönüyoruz, ya da daha doğrusu gömme katmanına; çünkü dünyada bir sayı dizisi bin kelimeye eşittir. So I guess it's back to the drawing board, or rather back to the embedding layer, because in the world a string of numbers is worth a thousand words. 8:21 Herhangi bir sorunuz varsa, lütfen aşağıya bir satır bırakın. If you have any questions, please drop us a line below. 8:24 Gelecekte bu tür daha fazla video görmek isterseniz, lütfen beğenin ve abone olun. And if you want to see more videos like this in the future, please "like" and subscribe. 8:29 İzlediğiniz için teşekkürler. Thanks for watching. Altyazı bilgisayarımda üretildi ve videoyla ilerler; bir satıra tıklayın, o ana atlasın. Subtitles generated on my computer; they follow the video — click a line to jump there.
Prompt tuning, büyük dil modellerini sınırlı veriyle dar görevler için yönlendiren enerji verimli bir yöntemdir. Prompt tuning is an energy-efficient method for steering large language models toward narrow tasks with limited data.
Bu video youtube.com üzerinde yayımlandı; buradaki oynatıcı YouTube’undur. Türkçe özet ve altyazı AiPulse için hazırlanmıştır. This video is published on youtube.com ; the player here is YouTube’s. The Turkish summary and subtitles are prepared for AiPulse .
YouTube’da izle Watch on YouTube AI Kritik → AI Critique →