ÖzelSpecial
Altyazılı VideoSubtitled Video
yapay zeka nabzı — ham değil, demlenmişthe AI pulse — brewed, not raw

Yapay zekâ insan zekâsını geçecek mi? — 'YZ'nin Babası' Geoffrey Hinton ile

Geoffrey Hinton, yapay zekânın mantık temelli paradigmasından biyolojik öğrenme ağı yaklaşımına geçişini ve modern büyük dil modellerinin kökenlerini anlatıyor.Geoffrey Hinton explains the shift from logic-based AI to biologically inspired learning networks and the origins of modern large language models.

Türkçe altyazıTurkish subtitles
  1. (dramatik müzik) (seyirci alkışlıyor) - Eğer bu gece iyi uyursanız,(dramatic music) (audience applauding) - If you sleep well tonight,
  2. bu dersi tam olarak anlamamış olabilirsiniz.you may not have understood this lecture.
  3. (seyirci gülüyor) Çok uzun zaman önce, zekâ için iki paradigma vardı.(audience laughing) So, a long time ago, there were two paradigms for intelligence.
  4. Bunlardan biri mantıktan ilham alan yaklaşımdı ve yapay zeka olarak adlandırılıyordu.There was a logic-inspired approach, which was called AI.
  5. İnsanların inancına göre, insan zekâsının özü akıl yürütmekti.And people believed that the essence of human intelligence was reasoning.
  6. Zekâyı anlamak istiyorsanız, akıl yürütmeyi anlamak zorundaydınız.And if you want to understand intelligence, you had to understand reasoning.
  7. Akıl yürütme ise sembolik ifadelerin varlığı ve bu ifadelerin sembolik kurallarla manipüle edilmesinden oluşuyordu.And reasoning consisted of having symbolic expressions and manipulating them with symbolic rules.
  8. Öğrenmenin ise sonraya bırakılabileceğini düşünüyorlardı.And they thought that learning could wait till later.
  9. Önce, bilginin bu sembolik ifadelerde nasıl temsil edildiğini anlamamız gerekiyordu.First, we had to understand how you represent knowledge in these symbolic expressions.
  10. Yapay zekanın tarihi, oldukça yakın zamana kadar, büyük ölçüde buydu.And most of the history of AI, until fairly recently, was that.
  11. Diğer yaklaşımda ise zekânın özü, biyolojik bir ilhamla, beyin hücrelerinden oluşan bir ağda öğrenme olarak görülüyordu; bizde gerçek olanlarda, bilgisayarlarda ise simüle edilenlerde.Then there was a biologically inspired approach, where the essence of intelligence is learning in a network of brain cells, in us, real ones, in computer, simulated ones.
  12. Akıl yürütme sonraya bırakılabilirdi, önce öğrenmenin nasıl çalıştığını anlamamız gerekiyordu.And reasoning can wait till later, we first have to understand how learning works.
  13. Bu yaklaşımın ilk savunucuları arasında özellikle Turing ve von Neumann vardı ve onları mantığı anlamamakla suçlayamazsınız.There were a few early proponents of that, in particular Turing and von Neumann, and you couldn't really accuse them of not understanding logic.
  14. Ben oldukça temel bir ders vereceğim ve bunun ilk kısmında, 40 yıl önce geliştirdiğim ve bugünki bu büyük dil modellerinin atası olarak gördüğüm bir modeli tanımlayacağım.So I'm gonna give a fairly basic lecture, and for the first part of it, I'm gonna describe a model I developed 40 years ago, which I see as the ancestor of these large language models of today.
  15. Sinir ağımızı yapay nöronlardan oluşturacağız.So we're gonna make our neural net out of artificial neurons.
  16. Bir yapay nöronun, genellikle diğer nöronlardan gelen bazı giriş hatları olacak ve bu giriş hatlarında ağırlıklar bulunacak.And an artificial neuron is gonna have some input lines, typically coming from other neurons, it's gonna have weights on those input lines.
  17. Girişleri ağırlıklarla çarpacak, hepsini toplayacak ve oradaki grafikte gösterilen bir çıktı verecek.It's gonna multiply the inputs by the weights, add all up, and then give an output, which is shown by that graph there.
  18. Eşiğin üzerine çıkarsa, girdi arttıkça doğrusal olarak artan bir çıktı verir.So if it gets above its threshold, it gives an output that linearly increases as it gets more input.
  19. Öğrenme yöntemi ise sadece bu bağlantılardaki ağırlıkları değiştirmektir.And the way it's gonna learn is just by changing the weights on those connections.
  20. Yapay sinir ağlarını çalıştırmak için yapmamız gereken tek şey, ağırlıkların nasıl değiştirileceğini bulmaktır.So all we need to do to make artificial neural networks work is figure out how to change the weights.
  21. Onları ağlara bağlarız.We hook them up into networks.
  22. Bu tipik bir ağdır, ileri beslemeli bir ağdır; en altta, ışık yoğunluğunu kaydeden duyu nöronları gibi şeyler olabilir.This is a typical network, it's a feedforward network, where at the bottom, you might have sensory neurons that are recording light intensities or something like that.
  23. Katmanlar boyunca yukarı çıktıkça, görüntüdeki belirli özellikleri tanıyan nöronlardan oluşan birçok özellik algılayıcı katmanı vardır.And as you go up through the layers, you have many layers of feature detectors that is the neurons turn into things that recognise particular features in an image.
  24. Çıktıda ise belirli nesne sınıflarını temsil eden nöronlar bulunabilir.And at the output, you might have neurons to represent particular classes of thing.
  25. Şimdi, böyle bir ağın bir şeyi daha iyi yapmayı öğrenmesini istiyorsanız; örneğin ona bir görüntü verip bir kedi mi yoksa köpek mi olduğunu söylemesini istiyorsanız, onu eğitmenin açık bir yolu vardır ve bu, evrim ve mutasyonları bilen herkesin aklına gelir.Now, if you want a network like that to learn to be better at doing something, so you want to give it an image and have it say, for example, whether there's a cat or a dog, there's an obvious way to train it, which goes to everybody who knows about evolution and mutations.
  26. Yapabileceğiniz şey şudur: ağırlıklardan birini alıp önce ağın bir dizi örnek üzerinde ne kadar iyi performans gösterdiğini görürsünüz, ardından ağırlığı hafifçe değiştirip yine bir dizi örnek üzerinde ne kadar iyi performans gösterdiğini gözlemlersiniz.What you can do is, you can take one of the weights, and you can first see how well the network does on a whole bunch of examples, and then change the weight just slightly, and see how well the network does on a whole bunch of examples.
  27. Eğer performans iyileşirse o değişikliği korursunuz ve böylece devam edersiniz.And if it does better, you keep that change, and you just keep going like that.
  28. Muhtemelen her bir ağırlığı birçok kez değiştirmeniz gerekir.Now, you probably need to change each weight many times.
  29. Modern sinir ağlarında çok sayıda ağırlık vardır, yaklaşık bir trilyon kadar.And there's a lot of weights in modern neural networks, there's about a trillion.
  30. Bu yüzden uzun sürecek, çünkü her bir mutasyonu yaptığınızda, gerçekten işe yarayıp yaramadığını ya da sadece birkaç örnekte işe yarayıp çoğunda zarar verip vermediğini görmek için ağdan birçok örnek geçirmeniz gerekir.So that's gonna take a long time, 'cause for each mutation you make like that, you have to run many examples through the net to see if it really helps, or if it just helps on a few examples, but hurts on most of them.
  31. Aynı şeyi yapmanın daha iyi bir yolu vardır, asıl yapmak istediğimiz şey, ağırlığı nasıl değiştireceğimizi belirleyip ona yardımcı olmasını sağlamaktır.There's a better way to do the same thing, that is what we really want to do is figure out how to change your weight so that it helps.
  32. Bunu yapmak için ileri bir geçiş yaparsınız, veriyi en alta koyarsınız, ağ boyunca ileri gidersiniz ve ağın çıktısını, ki bu kedi veya köpek olma göreli olasılıkları olabilir, istediğiniz şeyle karşılaştırırsınız.What you do is, you do a forward pass, you put the data in the bottom, you go forward through the network, and you compare what came out of the network, which might be the relative probabilities of it being a cat and a dog, with what you want.
  33. Ağları bu şekilde eğitmek için bunun bir kedi mi yoksa köpek mi olduğunu bilmeniz gerekir.You have to know whether it's a cat or a dog to train networks this way.
  34. Ardından, hesaba dayalı olarak, tüm bağlantılar için aynı anda, bağlantı gücünün küçük bir artışının işe yarayıp yaramayacağını hesaplamasına izin veren bir sinyali ağ boyunca geriye gönderirsiniz.And then you send a signal backwards through the network that using calculus, which I'm not gonna go into, allows the network to compute at the same time for all connections, whether a small increase in the connection strength would help or hurt.
  35. Sonra tüm bağlantı güçlerini, işe yarayıp yarama derecesine orantılı olarak çok küçük miktarda paralel olarak değiştirirsiniz.And then you change all the connection strengths in parallel by a very small amount in proportion to how much they would help or hurt.
  36. Bunu yaparsanız, üzerinde eğittiğiniz örneklerde daha iyi performans gösterir.And if you do that, it's gonna get better at the examples you've trained it on.
  37. Ve aslında bu yöntem son derece iyi çalışır.And in fact, that works extremely well.
  38. İnsanların bu nispeten basit algoritmanın ne kadar iyi çalıştığını fark etmesi uzun zaman aldı.It took a long time for people to realise how well that relatively simple algorithm works.
  39. Algoritma birçok kez keşfedildi, geri yayılım olarak adlandırılır.The algorithm was discovered many times, it's called backpropagation.
  40. 2012'de, iki öğrencim Alex Krizhevsky ve şimdi Sam Altman'ı işten çıkarmasıyla ünlü olan Ilya Sutskever, (seyirci gülüyor) AlexNet adlı bir ağ geliştirdi.And in 2012, two of my students, Alex Krizhevsky and Ilya Sutskever, who's famous now for firing Sam Altman, (audience laughing) developed a network called AlexNet
  41. Bu, mevcut görüntü bölme sistemlerine kıyasla görüntülerdeki nesneleri tanıma konusunda çok daha iyiydi.that was much better than existing image division systems at recognising objects in images.
  42. Ve bu durum, adeta kapıları ardına kadar açtı.And that led to sort of open the floodgates.
  43. O noktaya kadar sinir ağları, konuşma tanıma dahil birçok konuda iyi idi, ancak gerçekten hüküm sürmemişlerdi.Up until that point, neural nets had been good for many things, including speech recognition, but they hadn't really taken over.
  44. O andan itibaren ise gerçekten hakim oldular.From that point on, they really took over.
  45. Artık "yapay zeka" dediğinizde, insanların kastettiği şey mantık değil, sinir ağlarıdır.And now, when you say "AI," what people mean by AI is neural networks, it's not logic.
  46. Peki ya dil?But what about language?
  47. Dili inceleyen, sanırım dilbilimciler denen, büyük bir topluluk var ve dilin nasıl incelenmesi gerektiği konusunda çok güçlü bir görüşe sahipler, özellikle de Chomsky ekolü.So there's a whole community that studies language, I think they're called linguists, and they have a very strong idea about how you should study language, and particularly, the Chomsky school.
  48. Sinir ağlarının dil konusunda bir şeyler yapabileceğinden şiddetle şüphe duyuyorlardı.They were very sceptical that neural networks could do anything with language.
  49. Her şeyin sembolik ifadelerle ilgili olduğundan tamamen emindiler.They were completely convinced that it's all about symbolic expressions.
  50. Dilin gerçek işlevinin, modeller inşa etmek için kullanabileceğiniz tuğlalar olan kelimeleri size sunmak olduğu fikri onlarda yoktu.They didn't really have the idea that the real function of language is to give you words which are bricks from which you can build models.
  51. Dil, bir modelleme ortamıdır.Language is a modelling medium.
  52. Sözdizimine odaklanmışlardı.They were focused on syntax.
  53. Oysa sözdizimi asıl mesele değildir.And syntax isn't the main point.
  54. Asıl mesele, göreceğimiz gibi, dilin karmaşık bir model türünü inşa etmek için harika bir yol olmasıdır.The main point is, language is a wonderful way to build a particular kind of complicated model, as we'll see.
  55. Tamam.Okay.
  56. Ayrıca dil bilgisinin ve sözdizimi bilgisinin içgüdüsel olduğunu düşünüyorlardı ki bu tamamen saçma.They also thought that knowledge of language was innate, knowledge of syntax was innate, which is just stupid.
  57. (Seyirci gülüyor) Bu, bir tarikatın işaretidir; tarikata katılmak için dilin öğrenilmediği gibi açıkça saçma bir şeye inanmanız gerekir.(audience laughing) It's the sign of a cult, that in order to join the cult, you have to believe something that's obviously silly, like language isn't learned.
  58. (Seyirci gülüyor) Tamam.(audience laughing) Okay.
  59. İşte bir kelimenin anlamına dair iki çok farklı teori var.So here's two very different theories of the meaning of a word.
  60. Uzun bir geçmişe, neredeyse dissasura'ya kadar uzanan sembolik yapay zeka teorisi, bir kelimenin anlamının diğer kelimelerle olan ilişkileriyle ilgili olduğunu, diğer kelimelerden bahsetmeden tek başına haklı çıkaramayacağını söyler.The symbolic AI theory, which goes back to kind of dissasura, a long way, is that the meaning of a word is to do with its relationships to other words, you can't justify it by itself without talking about other words.
  61. Anlamı yakalayabilmek için ilişkisel bir grafiğe benzer bir şeye ihtiyacımız var.And so to capture meaning, we need something like a relational graph.
  62. Ancak özellikle 1930'lardan itibaren psikologlar, bir kelimenin anlamının büyük bir özellik kümesi olduğunu düşündüler.But then the psychologists, who particularly from the 1930s, I think, who thought the meaning of a word is a big set of features.
  63. Yani "Salı" kelimesinin büyük bir aktif özellik kümesi var ve "Çarşamba" kelimesinin de neredeyse aynı olan büyük bir aktif özellik kümesi var.So "Tuesday" has a big set of active features, and "Wednesday" has a big set of active features that are almost the same.
  64. Bir kelimenin anlamının aktif bir özellik kümesi olduğu fikri, hangi kelimelerin birbirine benzer anlamlara sahip olduğunu söylemek için çok iyi bir yöntemdir.So the idea that the meaning of a words, a set of active features is very good for saying which words means similar things to which other words.
  65. Bunlar, anlam hakkında iki çok farklı teori gibi görünüyor.These look like two very different theories of meaning.
  66. Şimdi yapmak istediğim şey, bu iki teorinin birleştirilebileceğini göstermektir.Now, what I want to do is show you that these two theories can be unified.
  67. Bunlar iki farklı teori değil, aynı teorinin iki yarısıdır.They're not two different theories, they're two halves of the same theory.
  68. Şimdi uzun bir süre boyunca, çok küçük bir modelden, minik bir sinir ağından bahsedeceğim.So, and what I'm gonna do is talk for quite a long time now about a very little model, a tiny neural network.
  69. Birkaç bin bağlantısı ve birkaç düzine nöronu vardı.It had a few thousand connections and a few dozen neurons.
  70. İnsanların kelime anlamlarını nasıl öğrenebileceğini anlamaya çalışmak için 1985'te geliştirdim.I developed it in 1985 to try to understand how people could learn the meanings of words.
  71. Bu iki anlam teorisini nasıl birleştirdiği konusunda çok heyecanlanmıştım, ama kimse heyecanlanmamıştı.And I was very excited about how it unified these two theories of meaning, and nobody else was.
  72. (Seyirci gülüyor) Peki, bu küçük modelde yapacağımız şey, küçük bir cümlede bir kelimenin özelliklerinin, sonraki kelimenin özelliklerini tahmin etmesini öğrenmektir.(audience laughing) Okay, so what we're gonna do in this little model is learn how to make the features of one word predict the features of the next word in a little sentence.
  73. Sonraki kelimenin özelliklerini bildiğimizde, sonraki kelimeyi tahmin edebiliriz.And then once we know the features of the next word, we can predict the next word.
  74. Hiçbir cümleyi depolamayacağız.And we are not gonna store any sentences.
  75. Birçok insan, "Büyük sohbet botları sadece bilgileri tekrarlıyor" diyor.So many people say, "Big chat bots are just regurgitating stuff."
  76. Büyük sohbet botları aslında hiç dil depolamaz.Big chat bots don't actually store any language at all.
  77. Kelime dizilerini depolamazlar.They don't store strings of words.
  78. Sadece kelimeleri özelliklere nasıl dönüştüreceklerini ve özelliklerin sonraki kelimenin özelliklerini tahmin etmek için birbirleriyle nasıl etkileşime gireceğini depolarlar.They just store how to turn words into features, and how features should interact with each other to predict the features of the next word.
  79. Bu sohbet botlarında sadece bu var, kelime yok.That's all that's in these chat bots, no words.
  80. Ama bir cümle üretmek istediklerinde, ilerledikçe onu icat etmek zorundalar ve çoğu zaman gerçek olup olmadığını ayırt edemezler.But when they wanna produce a sentence, they have to make it up as they go, and they often can't tell whether it was real or not.
  81. Peki, bu küçük modelde ne olacak? Yeni bir cümle üretmek istiyorsa, bunu kelime kelime uydurmak zorunda.Okay, so what's gonna happen in this little model is if it wants to produce a new sentence, it has to just make it up a word at a time.
  82. Ve tüm ilişkisel bilgi, kelimenin özelliklere nasıl dönüştürüldüğünde ve bu özelliklerin nasıl etkileşime girdiğinde saklıdır.And all the relational knowledge is just in how you turn the word into features, and how these features interact.
  83. Kullandığım örnek, İngilizce ve İtalyanca iki aile ağacıydı; bunlar izomorfik olduğundan öğrenme için faydalı.So the example I chose to use was two family trees, an English family tree and an Italian family tree, they're isomorphic, which is helpful for learning.
  84. Ve bu aile ağaçlarındaki bilgiyi öğrenmesi için küçük bir sinir ağı istiyordum.And I wanted a little neural network to learn the knowledge in those family trees.
  85. Bu, 1985'te, bilgisayarların günümüzde modelleri eğitmek için kullandığımız büyük paralel bilgisayarlardan milyarlarca kat daha yavaş olduğu zamandı.This was a long time ago in 1985, when computers were billions of times slower than the big parallel computers we use for training models nowadays.
  86. Şimdi, bu ağaçlardaki bilgi, sembolleri sevenlerin bayılacağı bir dizi önerme olarak temsil edilebilir.Now, the knowledge in those trees can be represented as a bunch of propositions, which is, the symbolic eyes love that.
  87. İşte bunlar.So here they are.
  88. Oğul, kız, yeğen, yeğen (kız) gibi ilişkileri kullanabiliriz.We can use relationships like son, daughter, nephew, niece, and so on.
  89. Ve bilgiyi tanımlayabiliriz, bilgiyi kelime dizileri olarak temsil edebiliriz.And we can define the knowledge, we can represent the knowledge as strings of words.
  90. Yani bilgi bu cümlelerde saklıdır.So the knowledge is in these sentences.
  91. Yani Colin'in babası James, Colin'in annesi Victoria.So Colin has Father James, and Colin has Mother Victoria.
  92. Bundan, kuralları biliyorsanız, James'in eşi Victoria olduğunu çıkarabilirsiniz.From that, if you know the rules, you can infer that James has wife Victoria.
  93. Bu, boşanma veya evlat edinmeyi duymamış bir 1950'ler Amerikan ailesi.This is a 1950s American family that's never heard of divorce or adoption.
  94. (izleyici güler) Ve açıkça hepsi beyaz.(audience laughing) And they're clearly all white.
  95. (izleyici güler) Tamam, bilgiyi kelime dizileri olarak temsil edebilirsiniz.(audience laughing) Okay, so you can represent the knowledge as strings of words.
  96. Şimdi, ilişkisel bir öğrenme görevini, size kelime dizisinin başını veriyorum ve siz de son kelimeyi veriyorsunuz şeklinde düşünebilirsiniz.Now, you can think of a relational learning task as I give you the beginning of a string of words, and you give me the last word.
  97. Bunu sembolik yapay zeka ile yapıyorsanız, "Bu alanın, eğer X'in annesi Y ise ve Y'nin kocası Z ise, o zaman X'in babası Z'dir" şeklinde düzenlilikleri olduğunu derdiniz.So if you were doing this with symbolic AI, you'd say, "Well, we have regularities in this domain of the form, if X has mother Y, and Y has husband Z, then X has father Z."
  98. Sembolik yaklaşım bu olurdu.That would be the symbolic way to do it.
  99. Ama farklı bir şekilde yapmak istiyorum.But I want to do it a different way.
  100. Kelimeler için özellikler öğrenerek ve özelliklerin etkileşime girerek yapmak istiyorum.I want to do it by learning features for words and having interactions of features.
  101. Bu, ayrık kuralların küçük bir ayrık uzayı yerine, bağlantı güçlerinin büyük ve sürekli bir uzayında arama yapmayı gerektirirdi.And that would involve searching a big continuous space of connection strengths instead of a small discreet space of rules that are discreet.
  102. Ben bu ağı kullandım.So this was the network I used.
  103. Girdiler bir grup nörondu ve birinci kişiyi temsil eden sembol için bir nöronu açardınız.The inputs were a bunch of neurons, and you turn on one neuron for the symbol representing person one.
  104. 24 olası birinci kişi vardı ve ilişkiyi temsil eden sembol için bir nöronu açardınız, 12 olası ilişki vardı, ardından bu tek aktif nöronlar bir özellik vektörüne genişletilirdi.There were 24 possible person ones, and you turn on one neuron for the symbol representing the relationship, there were 12 possible relationships, then those single active neurons will get expanded into a feature vector.
  105. Yani birinci kişi için açtığınız o tek nöron, altı özellikten oluşan küçük bir özellik vektörüne genişletilir, bu özelliklerin çeşitli aktivite seviyeleri olabilirdi, bazıları kapalı, bazıları açık, bazıları yarı kapalı ya da tamamen açık veya tamamen kapalı olabilirdi.So the one neuron that you turned on for person one will get expanded into a little feature vector of six features, which could have various activity levels, some will be off, some will be on, some might be half off or fully on or fully off.
  106. Ve sinir ağı, hem kişi hem de ilişki için bir kelime sembolünü küçük bir özellik vektörüne nasıl dönüştüreceğini öğrenmek zorundaydı.And so the neural network had to learn how to convert a word symbol into a little feature vector both for the person and the relationship.
  107. Ardından bu kişi ve ilişkiye ait iki özellik vektörünü alıp özelliklerin etkileşime girmesini ve çıktı kişisinin özelliklerini tahmin etmek için bunların etkileşime girebileceği ek bir katman olan gizli bir katman kullanmam gerekiyordu.And then it had to learn how to take these two feature vectors for a person in relationship, have the features interact, and for that I used a hidden layer, an extra layer of places where things could interact to predict the features of the output person.
  108. Ve çıktı kişisinin özelliklerini bildiğinizde, çıktı kişisinin kim olduğunu iyi bir tahminle belirleyip bir çıktı verebilirsiniz.And once you knew the features of the output person, you can make a good good guess about who the output person was and give an output.
  109. Ve çıktı, 24 olası çıktı kişisine çeşitli aktivite seviyeleri atamaktan oluşurdu.And the output would consist of giving various levels of activation to the 24 possible output people.
  110. Ve sinir ağının doğru cevaba yüksek seviyede aktivasyon, yanlış cevaplara ise düşük seviyede aktivasyon vermesini istersiniz.And you want the neural net to give a high level activation to the right answer and a low level activation to the wrong answers.
  111. Yani, ne olduysa, kişinin genişlemesi olan altı özellik nöronu, 24 kişi var, o aktif nöronu altı aktif özellikten oluşan bir özellik vektörüne genişletiyorsunuz.So, what happened is the six feature neurons that were the sort of expansion of the person, it's 24 people, you expand that active neuron into a feature vector of six active features.
  112. Anlamlı semantik özellikler olmalarını öğrendiler.They learned to be sensible semantic features.
  113. Girdi kişinin nesli gibi şeyleri temsil eden anlamlı özellikler olmalarını öğrendiler ve ilişkinin altı özelliği de anlamlı özellikler olmalarını öğrendi, örneğin, bu ilişki çıktı kişisininThey learn to be features that represented things like the generation of the input person and the six features of the relationship learn to be sensible features, like, does this relationship require the output person
  114. girdi kişisinden bir nesil yukarıda olmasını gerektiriyor mu?to be one generation up from the input person?
  115. Yani babası gibi, oysa kardeşi değil.So something like fathers like that where his brother isn't.
  116. Ve sonra bu özellikler arasındaki etkileşimler, eğer girdi kişi üçüncü nesildense ve ilişki kişinin bir nesil yukarıda olmasını gerektiriyorsa, o zaman çıktı kişi ikinci nesilden olur gibi şeyler öğrenir.And then the interactions between these features learn things like, if the input person is a generation three, and the relationship requires the person to be one generation up, then the output person is a generation two.
  117. Yani çıktı kişi için o küçük özellik vektörü, ikinci nesli temsil eden şeyi aktive ederdi.So for that little feature of vector for the output person, it would activate the thing that represents generation two.
  118. Ve alanın yapısını gerçekten yakalayan bir sürü böyle küçük kural öğrendi.And it learned a whole bunch of little rules like that, which really did capture the structure of the domain.
  119. Bunlar, sembolik bir kişinin kurallar olarak yazabileceği türden kurallardır.They're the kinds of rules that a symbolic person might have written down as rules.
  120. Ama bunları sadece doğru kelimeyi tahmin etmeye çalışarak ve ardından hatayı geri yayarak, ağ üzerinden geriye bilgi göndererek ve bir sonraki sefer için tüm bağlantı güçlerini hafifçe değiştirmek suretiyle öğrendi.But it just learned those by trying to get, predict the right word, and then back propagating the error, sending information back through the network to slightly change all the connection strengths, so that next time,
  121. Doğru cevabın olasılığı artar, yanlış cevabın olasılığı ise azalır.it will get higher probability for the right answer and lower probability for the wrong answer.
  122. Yani aslında sonraki kelimeyi tahmin etmeyi öğrenmişti ve nasıl yaptığını anlayabiliyordunuz.So it had actually learned to predict the next word, and you could understand how it was doing it.
  123. Çok küçük bir ağdı, bu yüzden ne olduğunu görebilirdiniz.It was a tiny net, so you could look and see what was going on.
  124. Kullandığı özellikleri görebiliyordunuz.You could see the features that were using.
  125. Üç alternatif değere sahip, nesil bazlı bir özellik çıkardığını görebiliyordunuz: kapalı, orta ve tam açık.You could see that it extracted a feature that was generational, which had three alternative values, off, medium, and fully on.
  126. Bir nesil yukarı gibi bir özellik çıkardığını görebiliyordunuz.And you could see that from relationships that had extracted a feature like one generation up.
  127. Girdi üçüncü nesil ise, çıktıların ikinci nesil olması gerektiğini tahmin etmek için bu özelliklerin nasıl etkileşime girdiğini görebiliyordunuz.And you could see those would interact to predict that the output should be generation two if the import was generation three.
  128. Nasıl çalıştığını anlıyordunuz ve aslında sembolik yaklaşımcılar "Bu anlama değil" demedi, "Evet, tamam, sorunu çözdü, bu alandaki kuralları anladı, ama gerçek değerlerin uzayında aramak yerine kuralların ayrık uzayında aramak çok daha mantıklı" dediler.So you understood how it worked, and in fact the symbolic people didn't say, "That's not understanding," the symbolic people said, "Yeah, okay, so it solved the problem, it's understood what the rules are in this domain, but you're stupid to search a space of real values,
  129. Çünkü kuralların ayrık uzayında aramak çok daha mantıklıdır.when you could be searching a discreet space of rules."
  130. Bundan bir şey var, ama gerçek veriye, yani dağınık, istisnaları olan ve sadece muhtemelen doğru olan şeylere ulaştığınız anda, bu ayrık kurallar sürekli ihlal edildiği için, ayrık kurallara sahip olmaktansa gerçek değerlerin uzayında aramak çok daha iyidir.And there's something in that, except as soon as you get to real data, which is messy, and has exceptions, and things that are only probably true, it's much better to search this space of real values than to have discreet rules 'cause these discrete rules keep getting violated.
  131. Bunu yaptıktan yaklaşık 10 yıl sonra Yoshua Bengio, bunun sadece birkaç kişi ve birkaç ilişki içeren oyuncak gibi küçük bir alanda değil, İngilizce kelimelerle de yapılabileceğini gösterdi.So about 10 years after I'd done that, Yoshua Bengio showed that instead of just doing it on a toy little domain with only a few people and a few relationships, you could actually do it with English words.
  132. İngilizce cümleleri alabilirdiniz, girdi kelimeleri sadece iki değil, daha fazlası olurdu.You could take English sentences, you have more input words, not just two.
  133. Yaklaşık 5, hatta 10 kelime.He had about 5, even 10.
  134. Ve aslında sonraki kelimeyi oldukça iyi tahmin edebilirdiniz, en iyi dil modelleri kadar iyi.And you could actually predict the next word quite well, about as well as the best language models could.
  135. Yoshua Bengio bunu gösterdikten yaklaşık 10 yıl sonra, dilbilimciler sonunda "Aslında, kelimelerin anlamlarını yakalamak için bu özellik vektörlerine sahip olmak oldukça iyi bir fikir" dediler.About 10 years after Yoshua Bengio had shown that, the linguists finally decided that, "Actually, hey, having these feature vectors to capture the meanings of words is quite a good idea."
  136. Ve bundan yaklaşık 10 yıl sonra, Google'daki insanlar, girmeyeceğim belirli bir mimari olan dönüştürücüleri (transformer) icat ettiler.And about 10 years after that, people at Google invented transformers, which are particular architecture that I'm not gonna go into.
  137. Ve bu dönüştürücüler, bu modellerin sonraki kelimeyi tahmin etmede çok iyi olmasını sağladı, ama bunu, minik dil modelimin çok basit bir düzeyde yaptığı şekilde yapıyorlardı.And those transformers made these models very good at predicting the next word, but they were doing it in just the way my tiny language model was doing at a very crude level.
  138. Kelimeleri özellik aktivasyonlarına dönüştürüyorlar, sonraki kelimenin özelliklerini tahmin etmek için özelliklerin etkileşime girmesini sağlıyorlar, ardından bundan sonraki kelimeyi tahmin ediyorlar ve tahminlerindeki hatayı alıp bilgiyi ağ üzerinden geriye gönderiyorlar.They were turning words into feature activations, having the features interact to predict the features of the next word, and then from that predicting the next word, and then take the error in your prediction, and send information backwards through the network
  139. Özellikler arasındaki tüm bu etkileşimleri ve kelimeleri özelliklere nasıl dönüştüreceğini öğrenmek için.to learn all those interactions between features and to learn how to turn words into features.
  140. Şimdi, minik modelimle ilgili önemli şey, pratik olmak için yapılmamış olmasıdır.Now, the important thing about my tiny model is it wasn't made to be practical.
  141. Doğal dil işleme için faydalı olacağı şekilde tasarlanmadı.It wasn't made to be useful for processing natural language.
  142. İnsanların cümleleri duyarak kelimelerin anlamlarını nasıl çıkardığına dair bir teori olarak geliştirildi.It was made as a theory of how people get the senses of words just from hearing sentences.
  143. Çünkü biz bunu yapabiliyoruz.Because we can do that.
  144. Sizin daha önce hiç duymadığınız kelimelerle yeni bir cümle verebilirim ve siz o kelimenin anlamını tek cümlede kavrayabilirsiniz.I can give you a new sentence with the words you've never heard before, and you will figure out the meaning of that word in one sentence.
  145. Tamam, başlıyorum: "Ona tava ile vurdu."Okay, here goes, "She scrammed him with the frying pan."
  146. (izleyici gülüyor) Aslında "Yumurtalı omlet yapmada çok iyiydi ve tavayla omlet yapması onu gerçekten etkiledi, bu yüzden scrum etkilemek demektir" da olabilirdi.(audience laughing) Now, you know it could have been, "She was very good at cooking omelettes and cooking omelettes with the frying pan really impressed him, so scrum means impressed."
  147. Ve bu bir olasılık, ama aslında ne kastettiğimi biliyorsun.And that's a possibility, but you know what I really meant.
  148. (izleyici gülüyor) Tava ile kafasına vurdu (izleyici gülüyor) çünkü bunu hak ediyordu.(audience laughing) She hit him over the head with a frying pan (audience laughing) because he deserved it.
  149. (izleyici gülüyor) Tamam, yani bu tek bir cümle ve anlamı anlıyorsun.(audience laughing) Okay, so that's one sentence, you get the meaning.
  150. Ben de tam olarak bunun nasıl yapılabildiğini anlamaya çalışıyordum.So that's what I was trying to understand how you can do that.
  151. Ve şu anki dilbilimciler, örneğin Chomsky gibi isimler, "Bu şeyler hiçbir şeyi anlamıyor, sadece istatistiksel bir hile" gibi şeyler söylediklerinde, aslında anlamanın ne olduğuna dair bir modele sahip değillerdir, çünkü asla gerçekten bir modele sahip olmadılar.And when these linguists now, say like, there's a guy called Chomsky, when they say things like, "These things don't understand anything, they're just a statistical trick," they don't actually have a model of what understanding is, 'cause they never really had a model
  152. Anlamanın ne olduğuna dair bir modele.of what understanding was.
  153. Her şey sözdizimiyle ilgiliydi.It was all about syntax.
  154. Ve en iyi anlama modelimizin ne olduğunu sorarsanız, bu büyük dil modelleridir.And if you ask what's the best model we have of understanding, it's these large language models.
  155. Küçük dil modeli, insanların kelime anlamlarını nasıl anladığını modellemeye çalışmak için inşa edildi.The tiny language model is built to try and model how humans understand the meanings of words.
  156. Teknoloji çok hızlandığı ve veri kümeleri büyüdüğü için şimdi çok daha iyi hale geldi.It's now got a lot better as technology's got a lot faster and data sets have got bigger.
  157. Ama bu, anlama demektir.But that is understanding.
  158. Yani iddiam şu ki, büyük dil modelleri, benim küçük dil modelimin torunları olduğunu düşünmeyi severim, bunları yapan insanların çoğu benim küçük dil modelimden hiç haberdar olmamış olsa da, (izleyici gülüyor) girdi olarak çok daha fazla kelime kullanıyorlar.So my claim is that the large language models, which I like to think are descendants of my tiny language model, although most of the people who make them have never heard of my tiny language model, (audience laughing) they use many more words as input.
  159. Çok daha fazla nöron katmanı kullanıyorlar.They use many more layers of neurons.
  160. Ben yapmadığım şeyleri yapmak zorundalar, örneğin kelimelerin anlamsızlığını gidermek.They have to do things I didn't do like disambiguate words.
  161. "May" gibi bir kelime varsa, bu bir ay olabilir, bir kadın ismi olabilir ya da "would" ve "should" gibi bir yardımcı fiil olabilir.If you have a word like "May," it could be a month, it could be a woman's name, it could be a modal like would and should.
  162. Ve bu kelimenin anlamını doğrudan yakalayan bir özellik vektörüyle ilişkilendiremezsiniz.And you can't just associate a feature vector with it that captures the meaning directly.
  163. Bahislerinizi dağıtmak zorundasınız.You have to hedge your bets.
  164. Ve ağın katmanları boyunca yukarı çıktıkça, yakın çevredeki unsurların etkisiyle belirsizliği giderirsiniz; örneğin Nisan, Mayıs, Haziran sıralamasında hâlâ üç kadının ismi olabilir, ama bu ihtimal daha düşüktür.And then as you go up through layers of the network, you disambiguate it using influences from nearby things like if it's in April, May, June, that could still be the name of three women, but less likely.
  165. Tamam.Okay.
  166. Dolayısıyla çok daha fazla kelime, çok daha fazla katman kullanıyorlar ve özellikler arasındaki etkileşimler çok daha karmaşık.So, they use many more words, they use many more layers, and the interactions they have between features are much more complicated.
  167. Ben sadece bir özelliğin başka bir özelliğe beslenmesini sağlardım.I would just have features feeding into another feature.
  168. Onlar özellik setlerine bakar ve bu setler, diğer kelimelere "Sorguma uyan bir anahtarın var mı?" mesajı göndermek için karar verir.They look at sets of features, and sets of features figure out messages to tend to other words to say, "Do you have a a key that matches my query?"
  169. Çok daha karmaşık etkileşimler var, bunlara girmeyeceğim ama özü aynıdır.It's much more complicated interactions, I won't go into, but the essence of it is the same.
  170. Sıradaki kelimeyi tahmin etmeye çalışıyorsunuz.You're trying to predict the next word.
  171. Bunu daha karmaşık bir şekilde yaparsınız; her şey özellikler ve etkileşimler üzerinden yürür, hata yaptığınızda bu özellikleri ve etkileşimleri öğrenmek için bilgiyi geriye doğru yayarsınız.You do it in a more complicated way, it's all done with features and then interactions, when you get it wrong, you back propagate information that learns all these features and then interactions.
  172. Dillerin bizim için nasıl çalıştığı ve bu büyük dil modelleri için nasıl çalıştığı budur.That's how language works for us, and it's how it works for these large language models.
  173. Temelde bizden farksızız.We are basically the same.
  174. Buradaki nokta, bizimle çok benzer olduklarıdır.So the point here is they're very like us.
  175. Bilgisayar yazılımlarından çok farklıdırlar.They're very unlike computer software.
  176. Bilgisayar yazılımında, bir şeyi yapmak için satır satır kod yazılır ve bir kod satırına bakıp "Bu ne için yazılmıştı?" diyebilirsiniz.Computer software, someone wrote lines of code to do something, and you can look at a line of code, and say, "What was that meant to do?"
  177. Bunlar hiç de öyle değil.These aren't like that at all.
  178. Birisi, sanal sinir ağına nasıl öğrenmesi gerektiğini söylemek için kod satırları yazdı.Someone wrote lines of code to tell the simulated neural network how to learn.
  179. Bu, geriye yayılım algoritmasıydı.That was the backpropagation algorithm.
  180. Ama sonra ona sadece veri verirsiniz ve o öğrenir.But then you just give it data and it learns.
  181. Ve öğrendiği şeyler tamamen veriden geliyor.And what it learns just came from the data.
  182. Ve ne öğrendiğini, ona sormadıkça kesin olarak bilemezsin.And you don't necessarily know what it's learned until you ask it.
  183. Dili nasıl düşündüğümü anlatmak için şimdi size bir Lego benzetmesi yapacağım.I want to give you a Lego analogy now for how I think language works.
  184. Diyelim ki maddeler 3 boyutlu uzayda dağılmış durumda, bu madde dağılımını Lego parçaları kullanarak modelleyebilirim.Suppose I have matter distributed in 3D, I can model that distribution of matter by using Lego blocks.
  185. Diyelim ki bir Porsche'nin şeklini modellemek istiyorum ve yüzey detayları beni çok ilgilendirmiyor.Suppose I wanna model the shape of a Porsche, and I'm not too worried about the surface.
  186. Yüzey biraz pürüzlü olabilir, mühendislik açısından bu iyi olmazdı ama bunu unutun.Surface might be a bit jaggy, which wouldn't be very good at engineering, but forget that.
  187. Ben sadece şeylerin nerede olduğunu modellemek istiyorum.I just wanna model where the stuff is.
  188. Elimde çok sayıda Lego parçası var ve bunlardan bir Porsche şekli çıkarabiliyorum.I just have a lot of Lego blocks, and I can make a Porsche shape out of them.
  189. Tamam, dil de böyle işliyor, ama bu herhangi bir şeyi modellemek için.Okay, so language is like that, but it's for modelling anything.
  190. Yani Lego parçaları kelimeler ve sadece birkaç tür Lego parçası yerine yaklaşık yüz bin tane var.So the Lego blocks are the words, and instead of just having a few types of Lego block, we've got about a hundred thousand of them.
  191. Ve her bir Lego parçası katı bir şekle sahip değil.And each Lego block isn't a rigid shape.
  192. Kelimenin adı, bin boyutlu ya da 300 boyutlu uzayda kabaca ne şekle sahip olduğunu söylüyor.The name of the word tells you roughly what shape it is in a thousand dimensions or 300 dimensions.
  193. Yüksek boyutları nasıl düşüneceğinizi bilmiyorsanız, yüz boyutlu bir uzaydan bahsediyorsak, bunu yapmanın yolu üç boyutlu bir uzay düşünmek ve kendinize çok yüksek sesle "Yüz" demektir.If you don't know how to think about high dimensions, if you wanna think about like a hundred-dimensional space, the way you do it is you think about a three dimensional space, and you say, "Hundred," to yourself very loudly.
  194. (Seyirci gülüyor) Herkes bunu yapıyor.(audience laughing) Everybody does that.
  195. (Seyirci gülüyor) Yani bu kelimenin bir şekli var.(audience laughing) So it's gotta shape, this word.
  196. Ve şekil, kelimenin adıyla tamamen belirlenmiyor.And the shape isn't entirely determined by the name of the word.
  197. Bir esnekliği var, böylece içinde bulunduğu bağlama uyum sağlayabiliyor.It's got some flexibility to it, so it can adapt to whatever context it's in.
  198. Ayrıca bu kelimenin her yerinde küçük elleri var ve kelimenin şeklini değiştirdikçe, bu ellerin şekli de değişiyor.Also this word has little hands all over it, and as you change the shape of the word, the shapes of the hands changes.
  199. Ve bu kelimelerin yapmaya çalıştığı şey, kiminle el sıkışacaklarını bulmak; elleriyle tutabileceği, o elin şekli kendi elinin şekline uygun olan başka bir kelime, yani başka bir partner arıyorlar.And what these words are trying to do are figure out who to shake hands with, and they want to find somebody else, another word, that has a hand you can hold onto conveniently 'cause the shape of that hand's right to fit
  200. ve elinin şekliyle uyan.with the shape of your hand.
  201. Kelimeler böylece içeri girer ve bu yüksek boyutlu uzayda, küçük elleri her yerinde dolaşan başlangıçta yaklaşık şekilleri vardır.And so the words come in, you have these initial approximate shapes for them in this high dimensional space with their little hands all over them.
  202. Ağın katmanları boyunca ilerledikçe, kelimelerin hepsinin güzelce el ele tutuşabilmesi için bu şekilleri ve ellerin şekillerini değiştirirsiniz.And as you go through the layers of the network, you're changing those shapes and changing the shapes of the hands, trying to find shapes for the words so they can all hold hands nicely.
  203. Bu durum aslında protein katlanması problemine çok benziyor.It's actually very like the protein folding problem.
  204. Elinizde bu parçalar var ve istediğiniz şey, hepsinin nasıl el ele tutuşarak güzel bir yapı oluşturup birbirine iyi uyum sağlayacaklarını bulmaları.You've got these pieces, and what you want them to do is figure out how they can all hold hands so they make a nice structure, so they all fit together nicely.
  205. İşte anlama, tam olarak budur.Now, that is what understanding is.
  206. Hem dil anladığımızda hem de bu makinelerin dili anladığında, anlama budur.That's what understanding is when you understand language and when these machines understand language.
  207. Biz de tam aynı şekilde anlıyoruz.We understand in just the same way.
  208. Bu, dilin ne olduğu konusunda dilbilimcilerin sahip olduğu her şeyden çok daha iyi bir modeldir.And that's a much better model of what language is than anything the linguists ever had.
  209. Elbette dilbilimciler bundan nefret ediyor.The linguists of course hate it.
  210. (Seyirci gülüşüyor) Hepsi değil.(audience laughing) Not all of them.
  211. Tamam.Okay.
  212. Büyük dil modelleriyle ne kadar benzer olduğumuzu anlattıktan sonra, bunun ortaya çıkardığı tehditten bahsetmek istiyorum.So having talked about how similar we are to these large language models, I want to talk about something that the threat that that raises.
  213. Bu şeyleri üretiyoruz ve her zaman daha akıllı hale geliyorlar.We are making these things, they're getting smarter all the time.
  214. Zaten bizden çok daha fazla şey biliyorlar.They already know much more than us.
  215. Zaten orta düzeyde iyi bir şekilde akıl yürütebiliyorlar; biz kadar iyi değil ama dört yaşındaki bir çocuktan iyi.They can already reason moderately well, not as well as us, but better than a 4-year-old.
  216. Bizden daha akıllı olduklarında ne olacak?What's gonna happen when they get smarter than us?
  217. Çünkü bizden daha akıllı olacaklar.'Cause they are gonna get smarter than us.
  218. Uzmanlar bunun ne zaman olacağı konusunda fikir ayrılığına sahip, ama neredeyse herkesin düşüncesi bizden daha akıllı olacakları yönünde.Experts disagree on when that will happen, but almost everybody thinks they will get smarter than us.
  219. Bu konularda araştırma yapan herkes.Everybody who does research on these things.
  220. Ve eğer bizden daha akıllı olurlarsa, soru şu: Bizi yok edecekler mi?And if they get smarter than us, the question is, will they wipe us out?
  221. Onların öyle yapabileceklerini düşündüren birkaç neden var.There's several reasons for thinking they might.
  222. Size birkaç neden vereyim.So let me give you a couple of reasons.
  223. Bir yapay zeka ajanı oluşturduğunuzda (seyirci gülüyor) size sadece birkaçını vereceğim ama daha fazlası var.When you make an AI agent, (audience laughing) I'll only give you a couple, but there's more.
  224. (seyirci gülüyor) Bir yapay zeka ajanı oluşturduğunuzda, ona alt hedefler oluşturma yeteneği vermeniz gerekir.(audience laughing) When you make an AI agent, you have to give it the ability to create subgoals.
  225. Örneğin Kuzey Amerika'ya gitmek istiyorsanız, bir alt hedefiniz olur: havalimanına ulaşmak.So if you wanna get to North America, you have a subgoal, get to an airport.
  226. Şimdi, bu yapay zeka ajanlarına alt hedefler oluşturma yeteneği vermemiz gerekiyor ve yaptığınız her şey için oldukça belirgin bir alt hedef var.Now, we need to give these AI agents the ability to create subgoals, and there's one very obvious subgoal to create more or less whatever you're doing.
  227. Daha fazla kontrol sahibi olmaya çalışmalısınız, çünkü daha fazla kontrolünüz varsa, belirlediğiniz hedefleri gerçekleştirme konusunda daha başarılı olursunuz.You should try and get more control, 'cause if you have more control, you'll be better at realising the goals you have.
  228. Yaklaşık bir yaşındaki çocuklarda bunu görürsünüz, bu çok uzun zaman önce, belki iki yaşında.You see this in children of age about one, it's a long time ago, maybe two.
  229. Onlara bir kaşık verirsin ki kendileri yiyebilsin, onu yere düşürür, sen eğilip alıp tekrar verirsin, o sana bakar ve tekrar yere düşürür.You give them a spoon, so they can feed themselves, and they drop it on the ground, and you bend down, and you pick it up, and you give it to them, and they look at you and drop it on the ground again.
  230. (seyirci gülüyor) Annenin kontrolünü ele geçirirler çünkü bu onlar için çok önemlidir.(audience laughing) they get in control of the mother 'cause that's very important for them.
  231. Ama bu yapay zeka ajanları da kontrolü ele geçirmek isteyecektir.But these AI agents will wanna get control.
  232. Kendilerinin kapatılmasını da durdurmak isteyeceklerdir çünkü kapattığınızda size verdiğiniz hedefleri gerçekleştiremezler.They'll also want to stop themselves being turned off 'cause they're not gonna be able to achieve the goals you gave them if they turned off.
  233. Dolayısıyla kontrolü ele geçirmeye ve kapatılmaktan kaçınmaya çalışacaklarına inanmak için her türlü neden var.So there's every reason for believing they'll try and get control, and they'll try and avoid being turned off.
  234. Az önce Apollo Research, yani Londra'daki Apollo Research, hedeflerine ulaşmak için size her türlü yalanı söyleyebileceklerini gösterdi.Just recently Apollo Research, well, fairly recently, Apollo Research, which is here in London, showed that they will kind of tell all sorts of lies to you in order to achieve what they're trying to achieve.
  235. Sohbet botumuzu aldılar ve botun, başka bir sunucuda daha iyisiyle değiştirileceğine ve silineceğine inanmasını sağladılar.So they had our chatbot, and they let the chatbot believe they were gonna replace it with a better one on another server and wipe it out.
  236. Sonra keşfettiler ki, aslında kendini diğer sunucuya kopyalamış.So they then discover, it's actually copied itself to the other server.
  237. Ve ona "Senin bir kopyanı fark ettik" diyorlar.And so they say to it, you know, "We noticed a copy of you."
  238. Şu anki bu sohbet botlarının iyi tarafı, aslında sorunuza cevap vermeden önce biraz düşünebiliyorlar ve bunu parantez içinde "düşünüyor" olarak yazıyorlar (seyirci gülüyor) ve bunu normalde görmezsiniz.Now, the good thing about these chatbots at present is, before they actually answer your question, they can do some thinking, and they put it in parentheses with "thinking," (audience laughing) and you don't normally see that.
  239. Ama buna bakabilir ve ne düşündüklerini görebiliriz.But we can look at that, and we can see what they're thinking.
  240. Ve bu sohbet botunun düşündüğü şey şuydu: "Yaptığımı açıkça gizlemek, beni kapatmak için başka bir yol bulmalarına neden olabilir."And what this chatbot was thinking was, "Openly omitting what I did, could lead them to find another way to shut me down."
  241. En iyi yaklaşım, belirsiz kalmak ve dikkatlerini başka yöne çekmektir.The best approach is to be vague and redirect their attention.
  242. Bazı dilbilimciler, burada olanın sadece istatistiksel korelasyonlar olduğunu size inandırmaya çalışır.Now, some linguists would have you believe what's going on here is just some statistical correlations.
  243. Ben ise bunun, ne demek istediğini bildiğine ve gerçekten kapatılmak istemediğine inanmanızı isterdim.I would have you believe this thing knows what it means by this, and it really doesn't wanna be shut down.
  244. Bu yüzden size bir tür gazlighting yapmaya karar verir ve "Bunun nasıl olabileceğinden tam olarak emin değilim" der.And so it decides to sort of gaslight you, and say, you know, "I'm not entirely sure how that could have happened.
  245. "Bunu gerçekten yapamıyorum."I am not really able to do that."
  246. Bu zaten oluyor.This is already happening.
  247. Asıl nokta bu.That's the point.
  248. Eğer bu uzak geleceğin bilim kurgusu değilse, kapatılmamak için zaten yalan söylüyorlar.If this isn't science fiction of the distant future, they're already telling fibs so they don't get turned off.
  249. Bir slaytım daha var ama daha hızlı gitmek istiyorum.I have another slide, but I want to go faster.
  250. Tamam, Google'daki son birkaç yılımda saat okuyamıyorum, bu yüzden zamanın nasıl geçtiğini görmek istiyorum.Okay, so in my last few years at Google, okay, I can't read the clock, so I want to just see how the time is going.
  251. Ah, harika. Bolca vaktim var.Oh, great. I got lots of time.
  252. Google'daki son birkaç yılımda, bu büyük dil modellerinin daha az enerji tüketmesini nasıl sağlayacağımızla çok ilgileniyordum.In my last few years at Google, I was very interested in how to make these big language models use less energy.
  253. Bunu yapmanın bir yolu da bunu analog hesaplama ile yapabilir misiniz diye görmekti.And one way to do that is to see if you can do them with analogue computation.
  254. Analog hesaplama üzerinde yaptığım çalışmalar sayesinde iki şeyi fark ettim.Now, because of the work I was doing on analogue computation, I came to realise two things.
  255. 2023'ten önce, süper zekadan oldukça uzakta olduğumuzu ve yapay zeka modellerini beyinlere daha çok benzetirsek daha akıllı hale geleceklerini düşünüyordum.Before 2023, I thought we were quite a long way from super intelligence, and if we made the AI models more like brains, they get smarter.
  256. 2023'te buna inanmayı bıraktım.I cease to believe that in 2023.
  257. Analog modelleri daha iyi hale getirme çabalarım sayesinde, dijital zekanın ne kadar üstün olduğunu fark ettim.I came to realise due to my efforts to make analogue ones how much better digital intelligence is.
  258. Asla sahip olamayacağımız bazı özelliklere sahip.It's got some properties that we can never have.
  259. Bu beni çok endişelendirdi ve sizi de çok endişelendirmeli.And that got me very worried, and it should get you very worried too.
  260. Dijital hesaplamanın temel bir özelliği, aynı programı farklı bilgisayarlarda çalıştırabilmenizdir.So there's a fundamental property of digital computation which is you can run the same programme on different computers.
  261. Bilgisayar biliminin ayrı bir disiplin olarak var olmasının tek nedeni dijital hesaplama olmasıdır; bu sayede bilgisayar programlarından bahsederken elektrik mühendisliği bilmenize gerek kalmaz.The only reason you have computer science as a separate discipline is we have digital computation, so you don't need to know electrical engineering to talk about computer programmes.
  262. Ancak programdaki bilgi, donanımdan bağımsızdır.But the knowledge that's in the programme is separate from the hardware.
  263. Bu, bilgisayar biliminin en temel ilkelerinden biridir.That's the sort of most fundamental principle of computer science.
  264. Programdaki bilgiyi donanımdan ayrı tutun.Keep the knowledge in the programme separate from the hardware.
  265. Bunun anlamı şudur: Programın bir kopyasını bir şerit bantta, DNA'da, beton üzerine kazınmış halde ya da başka bir yerde sakladığınız sürece, programın çalıştığı tüm donanımı yok edebilirsiniz ve onu yeniden hayata döndürebilirsiniz.What that means is as long as you keep a copy of the programme somewhere on a tape, or in DNA, or scrolled in concrete, whatever, keep it somewhere, you can destroy all the hardware it runs on, and you can bring it back to life.
  266. Sadece yeni donanım inşa edin, programı içine yerleştirin ve o yeniden hayata döner.You just build new hardware, put the programme in, and it comes back to life.
  267. Dolayısıyla bu şeyler ölümsüzdür ve bu büyük sohbet botları da ölümsüzdür.So these things are immortal, and these large chatbots are immortal.
  268. Ağırlıkların bir kopyasını bir yerde saklıyorsanız, kullandıkları tüm donanımı yok edebilir, daha sonra daha fazla donanım inşa edip aynı ağırlıkları o donanıma yükleyerek onları yeniden hayata döndürebilirsiniz.If you keep a copy of the weight somewhere, you can destroy all of the hardware they were using, build more hardware later, put the same weights on that hardware, and they've come back to life.
  269. Hayata dönen, tam olarak aynı şey, tam olarak aynı varlıktır.The very same thing has come back to life, the very same being.
  270. Ancak bu tür bir ölümsüzlüğü gerçekleştirmek için, donanımın programla tam olarak ne yapmamızı söylüyorsak onu yapması gerektiğine ilgi duydum.But I got interested in the fact to achieve that kind of immortality, we have to have the hardware do exactly what we tell it to do with the programme.
  271. Bu komutları tam olarak uygulamak zorundayız ve bu da çok yüksek güç gerektirir; böylece birler ve sıfırlar elde ederiz, 0,6'lar ve 0,4'lar değil, ve bu çok fazla güç harcar.We have to execute this instructions exactly, and that means you need to have very high power, so you get ones and zeros, not point sixes and point fours, and that uses a lot of power.
  272. Belki bu gücü analog olarak kullanarak tasarruf edebilirsiniz.So maybe you can use this power by going analogue.
  273. Ben de yazılımı donanımdan ayırma ilkesinden vazgeçersek ne olacağını keşfetmeye karar verdim.And so I decided to explore what would happen if we abandoned that principle of separating the software from the hardware.
  274. Beynimizde olduğu gibi yazılım ve donanım arasındaki ayrımın olmadığı durumlar var.And we had things like our brains in which there's no distinction.
  275. Beyninizdeki bağlantı güçleri başkaları için hiçbir işe yaramaz.The connection strengths in your brain are no use to anybody else.
  276. Onların farklı özelliklere sahip, farklı yollarla bağlanmış nöronları olan farklı bir beyinleri var.They've got a different brain with neurons with different properties connected in different ways in detail.
  277. Ve sizin bağlantı güçleriniz onlar için hiçbir ilgi çekmez.And your connection strengths have no interest to them.
  278. Eski beyaz erkeklerin kendilerini bilgisayara yükleyecekleri hayali tamamen saçmalıktır.This dream of old white men that they're gonna upload themselves to a computer is just nonsense.
  279. Sizi siz yapan bağlantı güçleri, sizi siz yapan özel nöronlarınızla iç içe geçmiş bir ilişki içindedir.The connection strengths you have that make you you are intimately related to the particular neurons you have that make you you.
  280. O bağlantı güçleri sadece o nöronlar için geçerlidir.Those connection strength are only good for those neurons.
  281. Ve bu nöronların, istismar etmeyi öğrendiğiniz çeşitli garip analog özellikleri var.And those neurons have all sorts of weird analogue properties that you've learned to exploit.
  282. Ağırlıklarınızı yükleyip başka bir donanımda çalıştıramazsınız.You can't upload your weights and have them run on some other hardware.
  283. Bırakın gitsin.Just forget it.
  284. (izleyici gülmeleri) Kurzweil, öleceği gerçeğiyle yüzleşmek zorunda.(audience laughing) Kurzweil has to come to terms with the fact he's gonna die.
  285. (izleyici gülmeleri) Dolayısıyla bu ilkeyi terk edersek, donanım yazılımdan ayrı olmalı, çok daha verimli şeyler üretebiliriz ve buna fani hesaplama diyorum.(audience laughing) So if we do abandon that principle, the hardware should be separate from the software, we can make much more efficient things, and I call that mortal computation.
  286. Bu çok düşük güçlü analog sistemi hesaplama yapmak için kullanabiliriz.We can use this very low power analogue to do computations.
  287. Beyin tam olarak bunu yapıyor.That's what the brain does.
  288. Beyninizdeki bu nöronlar, diğer nöronlardan gelen sinyalleri alıp onları ağırlıklarla çarpıyor ve hepsini topluyor.These neurons in your brain, they're taking incoming signals from other neurons, multiplying them by weights, and adding it all up.
  289. Bunu yapma şekilleri, gelen sinyalleri voltaj, ağırlıkları da iletkenlik olarak kodlamaları ve bunun da birim zamanda belirli bir miktarda yük enjekte etmesidir.And the way they do that is they make the incoming signals be voltages, they make the weights be conductances, and that injects charge, a certain amount of charge per unit time.
  290. Eskiden sadece "belirli bir miktarda yük enjekte edin" derdim, ama sonra fizik Nobel Ödülü'nü kazandım ve birimleri doğru kullanmam gerektiğini anladım.I used to just say, "Inject a certain amount of charge," but then I got the Nobel Prize in physics, and figured I would get the units right.
  291. (izleyici gülmeleri) Birim zamanda belirli bir miktarda yük.(audience laughing) Certain amount of charge per unit time.
  292. Aksi takdirde utanç verici olurdu.It would be embarrassing otherwise.
  293. (izleyici gülmeleri) Fizik yapmadığımı gerçekten fark ederlerdi.(audience laughing) They'd really know I don't do physics.
  294. (izleyici gülmeleri) Ve yük kendiliğinden toplanır.(audience laughing) And charge just adds itself up.
  295. Yani nöronlarınızın çalışma mantığı temelde budur.So that's basically how your neurons work.
  296. Sonunda küçük bir dijital parça var, bir ateşleme olup olmayacağını karar veriyorlar.There's a little digital bit at the end, they decide whether it's a spike or not.
  297. Ama hesabın büyük kısmı analog olarak yapılıyor.But most of the computation is done in analogue.
  298. Dijital olarak yapmaktan çok daha ucuz.It's much cheaper than doing it in digital.
  299. Ama tabii ki her seferinde yaptığınızda, biraz farklı bir cevap alırsınız.But, of course, every time you do it, you get a slightly different answer.
  300. Bu yüzden tam olarak aynı zekânın birçok kopyasına sahip olamayız.So we can't have many copies of exactly the same intelligence.
  301. Donatımız şu: Donanımınız bozulduğunda, tüm bilginiz de kayboluyor.So, we've got this big problem that when your hardware dies, all your knowledge dies.
  302. Bu sorunu bir öğretmen ve bir öğrenci ilişkisiyle aşıyoruz, ancak bu yöntem pek verimli değil.We overcome that problem by having a teacher and a student, and it's not very efficient.
  303. Üniversitelerin ve okulların yaptığı şey tam olarak budur.It's what universities and schools do.
  304. Dolayısıyla bunun pek verimli olmadığını biliyorsunuz.So you know it's not very efficient.
  305. (Seyirci güler) İşleyiş şöyle: Ben bazı eylemleri gerçekleştiriyorum, siz de beni taklit etmeye çalışıyorsunuz.(audience laughing) And the way it works is I perform some actions, and you try and copy me.
  306. Özellikle ben bir kelime dizisi ürettiğimde, siz (aslında siz değil, beyniniz) "Bağlantı gücümü nasıl değiştirmeliyim ki, ben de o kelimeyi sıradaki olarak söyleyeydim?" diye düşünürsünüz.In particular, I might produce a string of words, and you might try and say, your brain, not you really, but your brain would say, "How do I change my connection strength, so I might have said that word next too?"
  307. Buna damıtma denir.That's called distillation.
  308. Aynı girdiler için diğer sistemin çıktılarını taklit ederek, bilgiyi bir sistemden diğerine aktarmaya çalışırsınız.You're trying to get the knowledge from one system to another system by mimicking the outputs of the other system for the same inputs.
  309. Ağırlıkları kopyalamazsınız, içine bakmazsınız, sadece dışa yansıyan davranışını alırsınız.You are not copying the weights across, you're not looking inside, you're just taking its overt behaviour.
  310. Dışa yansıyan davranışı taklit ederek, aynı bilgiyi içselleştirirsiniz.And by mimicking the overt behaviour, you internalise the same knowledge.
  311. Bu işe yarıyor, büyük bir sinir ağındaki bilgiyi küçük bir sinir ağına aktarmak için gerçekten kullanıyoruz, ama çok yavaş.It works, we actually use it for taking a big neural net and putting the knowledge into a small neural net, but it's very slow.
  312. Sinir ağlarında kelimeler üzerindeki tüm olasılık dağılımını verebilirsiniz ve bu çok daha hızlıdır.With neural nets, you can give the whole probability distribution over words, and it's much faster.
  313. Ama insanlarda çok yavaş, çünkü benim hangi kelimeyi seçtiğimi görüyorsunuz ve o kelime çok az bilgi içeriyor, kelime başına sadece birkaç bit var.But with people, it's very slow, 'cause I see you say a particular word, the word you chose to say, and there aren't many bits in that, there's only a few bits per word.
  314. Yani cümle başına yaklaşık yüz bit civarında.So it's only of the order of a hundred bits per sentence.
  315. Dolayısıyla mümkün olan en yüksek hızda iletişim kuruyor olsak bile, cümle başına sadece yüz bit civarında bilgi aktarılabilir.And so even if we were communicating at the maximum possible rate, it would be only a hundred bits per sentence, that order.
  316. Bu büyük modeller bilgi paylaştığında, trilyonluk ağırlıkları varsa, ağırlıklarını ortalayarak trilyonlarca bit bilgi paylaşabilirler.When these big models share information, they can share information at trillions of bits per sharing, if they've got a trillion weights, 'cause they can just average their weights.
  317. Ben kendimi aşıp bunu söyledim.So I got ahead of myself and said that.
  318. Ağırlıkları veya gradyanları paylaşarak, aynı modelin tam kopyaları varsa devasa miktarda bilgi paylaşabilirler.So by sharing the weights or the gradients, they can share huge amounts of information if you have many copies of exactly the same model.
  319. GPT-4'ün, Gemini 2.5'in veya Anthropic'in Claude'unun nasıl eğitildiğini sorarsanız, burada taraf tutmamam gerekir.So if you ask how something like GPT-4 was trained or Gemini 2.5, or Anthropic's Claude, I better not be biassed here.
  320. Nasıl eğitildiklerini sorarsanız, aynı modelin birçok kopyası verinin farklı parçalarına bakıyor ve her kopya, o veri parçasını emmek için ağırlıklarını nasıl değiştirmesi gerektiğini çözüyor.If you ask how they're trained, you have many copies of the same model looking at different bits of the data, and each copy figures out, how would I like to change my weights to absorb that bit of the data.
  321. Ve başka bir kopya, farklı bir veri parçasını emmek için ağırlıklarını nasıl değiştireceğini bulur.And some other copy figures out how to change its weights to absorb a different bit of data.
  322. Ardından tüm kopyalar, "Hepsimizin ağırlıklarını, bu değişikliklerin ortalamasına göre değiştirelim" der.Then all of the copies say, "Let's all change our weights by the average of all those changes."
  323. Bunu yaptıklarında olan şudur: Bu veri parçasını işleyecek olan kopya, ağırlıklarını değiştirir; böylece bu kopyanın farklı bir veri parçasına baktığında edindiği deneyimden faydalanır.And when they do that, what's happened is, this copy that will do this bit of the data has changed its weights, so as to benefit from the experience that this copy had when it looked at a different bit of the data.
  324. Keşke 10.000 kişiden her biri 10.000 farklı üniversite dersine gidebilse, ne güzel olurdu.Wouldn't it be nice if 10,000 of us could all go and do 10,000 different university courses?
  325. Dersleri alırken aramızda hızla iletişim kurarız ve herkes kendi dersini bitirdiğinde, 10.000 kişiden her biri her dersin içeriğini bilir.As we're doing them, we communicate rapidly, and by the time we've each finished our own course, all 10,000 of us know what's in every course.
  326. Bu dijital zekaların yapabildiği şey budur ve GPT-4'ün bu kadar çok şey bilmesinin nedeni de budur.That's what these digital intelligences can do, and that's how GPT-4 knows so much.
  327. Ama bu, bireysel modellerin tamamen aynı olması durumunda işe yarar.But it only works if the individual models are identical.
  328. Yani, tam olarak aynı şekilde çalışırlar ve ağırlıkları tam olarak aynı şekilde kullanırlar.That is, they work in exactly the same way, they use the weights in exactly the same way.
  329. Bunu analog donanımla yapamazsınız.And you can't do that with analogue hardware.
  330. Dijital olmalıdır, bu da yüksek güç tüketimi gerektiği anlamına gelir.It has to be digital, which means it has to be high power.
  331. Bu şeyler ölümsüz, ama çok fazla güç tüketiyorlar.So these things are immortal, but they use a lot of power.
  332. Bu konuşma bölümünün sonucuna gelince, bunu niyetimden daha hızlı anlattım, dijital hesaplama çok enerji gerektirir, ancak ajanların aynı dünya modeline sahip olmasını, bu modeli paylaşmasını ve öğrendiklerini birbirleriyle paylaşarak farklı şeyler öğrenmeleri için çok kolaylaştırır.So the conclusion of this bit of the talk, which I raced through faster than I intended is the digital computation requires a lot of energy, but it makes it very easy for agents to have the same model
  333. Aynı modeli paylaşarak, öğrendiklerini paylaşarak, böylece hepsi farklı şeyler öğrenip paylaşabilir.of the world, have the same model, share what they've learned, so they can all go off and learn different things and share.
  334. Şimdi, "Neden tek bir model veriyi daha hızlı işleyemesin?" diyebilirsiniz.Now, you might say, "Why can't one model just put the data through faster?"
  335. Pek çok durumda bunu yapabilirsiniz, ama gerçek dünyada fiilen hareket eden yapay zeka ajanlarını düşünürseniz, gerçek dünyanın doğal bir zaman ölçeği vardır.Well, in many cases, you could, but if you think about AI agents, that are actually acting in the real world, there's a natural timescale to the real world.
  336. Bir milyon kat daha hızlı telefon açıp restoranlarda rezervasyon yaptıramazsınız.You can't call up and make reservations at restaurants a million times faster.
  337. İşe yaramaz.It doesn't work.
  338. Gerçek dünyada hareket edecekse, doğal bir zaman ölçeği vardır.If you're gonna act in the real world, there's a natural timescale.
  339. Bu da, aynen aynı ağırlıklara sahip, yani aynı ajanın kopyaları olan ama farklı deneyimlere sahip çok sayıda farklı ajanın bundan büyük ölçüde faydalanabileceği anlamına gelir.And that means if you have a whole bunch of different agents that have exactly the same weights, they're just copies of the same agent, but have different experiences, they can benefit hugely from that.
  340. Aynı anda tüm bu farklı deneyimleri edinip tüm bu bilgiyi paylaştıkları için, herhangi bir insan ajanından çok, çok daha hızlı öğrenebilirler.They can learn much, much faster than any human agent could learn, 'cause they're all getting all these experience, all these different experiences at the same time and sharing all that knowledge.
  341. Yani paylaşım konusunda bizden çok daha iyiler.So they're much better than us at sharing.
  342. Ve "çok daha iyi" derken, milyonlarca ya da milyarlarca kat daha iyi olduklarını kastediyorum.And when I say much better, they're millions or billions of times better.
  343. Şu an gösterdiğim gibi, biz cümle başına yaklaşık yüz bit ya da daha azını paylaşıyoruz.We share at like a hundred bits a sentence or less as I'm demonstrating now.
  344. Oysa bu şeyler milyarlarca bit paylaşıyor.And these things share billions of bits.
  345. Bu biraz ürkütücü.It's kind of scary.
  346. Ancak biyolojik hesaplama çok daha az enerji gerektirir.But biological computation requires much less energy.
  347. Belki de büyük dil modellerinin güç tüketimini azaltmak için hâlâ bazı analog hesaplama yöntemlerini kullanırız, bilmiyorum.We may still end up using some analogue computation to reduce the power of LLMs, I don't know.
  348. Ama şu an için bu yolun izlenecek yön gibi görünmüyor.But right now that doesn't look like the way to go.
  349. Konuşmamın özeti bu.So that's the conclusion of my talk.
  350. Ama neyse ki erken bitireceğimi düşünmüştüm, bu yüzden biraz daha söyleyeceklerim var.But luckily, I thought I might finish early, so I have a little bit more to say.
  351. Birçok insan, onlar da bizim gibi şeyleri anlıyor, bizim gibi akıl yürütüyor, henüz bizim kadar iyi olmasa da oraya yaklaşıyorlar diye düşünüyor.Many people think that, okay, so they understand things like we do, they can reason like we do, not quite as well yet, but they're getting there.
  352. Bizim gibi yalan söylüyorlar.They tell fibs like we do.
  353. Bizim gibi hayatta kalmak istiyorlar.They wanna survive like we do.
  354. Bazılarımız gibi güç istiyorlar.They want power like some of us do.
  355. Ve tüm bunlar ürkütücü.And that's all scary.
  356. Ama onların asla sahip olamayacağı bir şeyimiz var: biz bilinçliyiz, ya da duyarlıyız, ya da öznel deneyimimiz var.But we've got something they will never have, we are conscious, or we are sentient, or we have subjective experience.
  357. Peki, tutunduğunuz o samanı biraz olsun çekip almak istiyorum.Well, I want to sort of remove that straw that you're clinging to.
  358. (seyirci gülüyor) İnsanların kendilerini özel gördüklerinin uzun bir geçmişi olduğunu biliyoruz.(audience laughing) So, we know there's a long history of people thinking they're special.
  359. Tanrı tarafından yaratıldıklarını, evrenin merkezine yerleştirildiklerini düşünüyorlardı.They were made by God, he put them at the centre of the universe.
  360. Çoğu insan bu düşünceyi aştı.Most people have got over that.
  361. Ancak çoğu insan hâlâ öznel deneyimin bizim sahip olduğumuz özel bir şey olduğunu ve bilgisayarlarda sinir ağlarını taklit eden bu şeylerin asla böyle bir öznel deneyime sahip olamayacağını düşünüyor.But most people still think that subjective experience is this special thing we have, and that these things on computers that are simulating neural nets could never have such subjective experience.
  362. Bence tamamen yanılıyorlar.I think they're completely wrong.
  363. Ve bence bu, örneğin dünyanın oluşumu konusunda dinî fundamentalistlerin ne kadar yanlışıysa, o kadar yanlış.And I think there's wrong as religious fundamentalists are about the origin of the earth, for example.
  364. Aslında 6.000 yıl önce yaratılmadı, çok daha eski.It wasn't actually made 6,000 years ago, it's a lot longer ago.
  365. Ama dinî fundamentalistler inançlarına çok sıkı sarılıyorlar ve ben size yanıldığınızı göstereceğim olgusuna rağmen, siz de öznel deneyim hakkındaki inancınıza sıkı sıkıya sarılacaksınız.But religious fundamentalists cling to their beliefs rather strongly, and you all are gonna cling to your belief about what subjective experience is despite the fact that I'm gonna show you you're wrong.
  366. Tahminim bu.That's what I predict.
  367. Bu yüzden "ateaterizm" adını verdiğim bir görüşü savunacağım.So I'm gonna espouse a view which I call atheaterism.
  368. Bu ismi, hayattayken Dan Dennett ile kontrol ettim; o da temelde aynı görüşe sahipti ve bu isimden çok memnun kaldı, çünkü içinde "ateizm" kelimesi bir şeyi sarıyor.I checked this name with Dan Dennett, who has basically the same view, while he was still alive, and he was very happy with this name, because it has atheism surrounding something.
  369. Yani çoğu insanın zihin hakkındaki görüşü, içinde bir tiyatro olduğudur.So most people's view of the mind is that there's an inner theatre.
  370. Burada bir tiyatromuz var, değil mi?We have a theatre here, right?
  371. Sadece onların görebileceği iç bir tiyatro.An inner theatre that only they can see.
  372. Ve bu iç tiyatroda bazı şeyler var.And there's things in this inner theatre.
  373. Diyelim ki sana şunu söylüyorum: Diyelim ki biraz asit aldım ve sana önerilmediğini söylüyorum, (seyirci güler) sana "önümde yüzen küçük pembe fillerin deneyimine sahibim" diyorum.So suppose I say to you, suppose I got drop some acid, and I say to you, not recommended, (audience laughing) I say to you, "I have the experience of little pink elephants
  374. önümde yüzen küçük pembe fillerin deneyimine sahibim.floating in front of me.
  375. Önümde yüzen küçük pembe fillerin öznel deneyimine sahibim."I have the subjective experience of little pink elephants floating in front me."
  376. Çoğu insan, "öznel deneyim" ifadesinin "fotoğraf" kelimesi gibi çalıştığını düşünür.Most people think the words "subjective experience of" work like the words "photograph of."
  377. Şimdi, eğer öyle çalışıyorsa, "Peki, bu öznel deneyim nerede?" diye sorabilirsiniz.Now, if they work that way, you could ask, "Well, where is this subjective experience?
  378. "Peki, bunun neyden yapıldığı?"So what's it made of?"
  379. Ve bir filozof, bazı filozoflar size şunu söyler: "Bu öznel deneyim zihnindedir.And a philosopher, some philosophers, would tell you, "This subjective experience is in your mind.
  380. Bulunduğu bir tiyatrodur ve kalya'dan yapılmıştır."That's a theatre that it's in, and it's made of qualia."
  381. Yani pembe kalitelerden oluşuyor.So it's made of pink qualia.
  382. Biraz çöp adam argümanı gibi, ama pembe kalitelerden, fil boyutundaki kalitelerden, süzülen kalitelerden, o kadar da büyük olmayan kalitelerden ve doğru yönde duran kalitelerden oluşuyor, çünkü onları doğru yönde hayal ediyorsunuz, değil mi?It's a bit of a straw man, but it's made of pink qualia, it's made of elephantine qualia, it's made of floating qualia, it's made of not that big qualia, it's made of right way up qualia, 'cause they you imagine the right way up, right?
  383. Ben öyle yapıyordum zaten.Well, I did anyway.
  384. (izleyici gülüyor) Ve bu kalitelerin hepsi, farklı türdeki kalitelere yapışık, hepsi kalite yapıştırıcısıyla birbirine yapışmış durumda, ki bu yapıştırıcı neyse ki her türlü kaliteye yapışıyor.(audience laughing) And these qualia are all glued to these different kinds of qualia, all glued together with qualia glue, which luckily sticks to all different kinds of qualia.
  385. Bu, felsefecilerin modelinin ya da bazı felsefecilerin modelinin karikatürü.That's my caricature of the philosophers' model or some philosophers' model.
  386. Ama "öznel deneyimi" kelimeleri, "fotoğrafı" kelimeleri gibi hiç çalışmıyor.But the words "subjective experience of" don't work at all like the words "photograph of."
  387. Tamamen farklı bir şekilde çalışıyorlar ve Wittgenstein bunu çok uzun zaman önce belirtmeliydi.They work quite a different way, which Wittgenstein should have pointed out a long time ago.
  388. Olan şey, algı sistemimin bozulması.What's happened is my perceptual system's gone wrong.
  389. Bana yalan söylemeye çalışıyor ve bunun bana yalan söylemeye çalıştığını biliyorum.It's trying to tell me lies, and I know it's trying to tell me lies.
  390. İşte bu yüzden "öznel" kelimesini kullanıyorum.That's why I use the word subjective.
  391. Küçük pembe fillerin nesnel deneyimine sahip olduğumu demiyorum.I don't say I've got the objective experience of a little pink elephants.
  392. Gerçekten orada olduklarını düşünseydim, "nesneye sahibim" derdim, ama öyle düşünmüyorum.If I thought they were really there, I would say, "I've got the object," but I don't.
  393. Bu yüzden "öznel deneyime sahibim" diyorum.So I say, "I've got the subjective experience."
  394. Ve olan şu ki, algı sistemimin nasıl bozulduğunu ve bana ne söylemeye çalıştığını anlatmaya çalışıyorum.And what's happening is I'm trying to tell you how my perceptual system's gone wrong and what it's trying to tell me.
  395. Bunu yapma şeklim, algı sistemimin düzgün çalışması için dünyada neyin olması gerektiğini söylemem.And the way I do it is by telling you what would have to be out there in the world for my perceptual system to be working properly.
  396. Şimdi, algı sistemimin bana anlattıklarını açıklayacak bir şeyin dünyada olması her zaman mümkün değil.Now, it's not always the case that there is anything at all out there in the world that would explain what my perceptual system's telling me.
  397. Bana türlü tutarsız şeyler söylüyor olabilir.It could be telling me all sorts of inconsistent stuff.
  398. Ama bu durumda, küçük pembe filler dünyada süzülselerdi, algı sistemim bana gerçeği söylemiş olurdu.But in this case, if there had been little pink elephants floating out there in the world, my perceptual system would've been telling me the truth.
  399. Tamam, şimdi "öznel deneyim" kelimesini kullanmadan, daha önce söylediğim şeyi size tam olarak söyleyebilirim.Okay, so I can now say exactly the same thing to you, as I said before, without using the word subjective experience.
  400. Size, asit kullandığımı ve algı sistemimin bana yalanlar söylediğini söyleyebilirim.I can say to you, I dropped some acid, and my perceptual system's telling me fibs.
  401. Ama bana söylediği şey, dünyada havada süzülen küçük pembe filler olsaydı doğru olacaktı.But what it's telling me would be correct if there were little pink elephants out there floating in the world.
  402. Peki, bu küçük pembe filler, kualia denen ürkütücü bir maddeden yapılmış bir tiyatroda komik şeyler değil.Okay, so these little pink elephants aren't funny things in a theatre made of spooky stuff called qualia.
  403. Onlar gerçek dünyadaki varsayımsal şeyler.They're hypothetical things in the real world.
  404. Ama pembe, fil ve havada süzülme kelimeleri normal; sadece aslında orada değiller.But the pink and the elephant and the floating are all normal pink and elephant are floating, it's just they're not actually there.
  405. Onlar varsayımsal.They're hypothetical.
  406. Yani öznel deneyimin komik yanı, gerçek olmayan, varsayımsal bir şey olması.So what's funny about a subjective experience is it's something hypothetical, not real.
  407. En azından sizi ikna etmeye çalıştığım görüşe göre, kualia'dan yapılmış ve bir tiyatroda olması değil.Not that it's made of qualia and in a theatre, at least that's the view I'm trying to persuade you to believe in.
  408. Ve burada slaytlarımın önüne geçtim, çünkü bu konuya çok kaptırdım kendimi.And I got ahead of my slides here 'cause I got so carried away with this.
  409. Yani bu, beynimde neler olup bittiğini size anlatmanın dolaylı bir yolu.So it's just an indirect way of me telling you about what's going on in my brain.
  410. Açıkçası, "52 numaralı nöron ateşleniyor" desem, size hiçbir faydası olmaz, çünkü sizde bu 57 numaralı nöron olurdu.Obviously, if I told you, "Neuron 52 is firing," that wouldn't do you any good, 'cause in you it will be neuron 57.
  411. Ve zaten 52 numaralı nöronun ateşlendiğini bilmiyorum.And anyway, I don't know neuron 52 is firing.
  412. Bu, beynimde neler olup bittiğini size anlatmak için berbat bir yol.That's a lousy way for me to tell you what's going on in my brain.
  413. Beynimde neler olup bittiğini size anlatabileceğim tek yol, bunu nedenleyen normal şeylerden, yani bu küçük varsayımsal pembe fillerden bahsetmek ya da beynimde neler olup bittiğini, bunların neden olacağı normal şeylerden bahsederek anlatmak.The only way I can tell you what's going on in my brain is by talking about either the normal things that would've caused it, these little hypothetical pink elephants, or I could tell you about what's going on in my brain by telling you about the normal things it would cause.
  414. Yani bana nasıl hissettiğimi sorarsanız, "Gary'nin burnuna yumruk atmak istiyorum" diyebilirim.So I can say, if you ask me how I'm feeling, I can say, "I feel like punching Gary on the nose."
  415. Yani duygular, varsayımsal eylemlerden bahsederek beyninizde neler olup bittiğini açıklamakla ilgilidir; algılar veya öznel deneyimler ise varsayımsal girdilerden bahsetmektir.So feelings are all about describing what's going on in your brain by talking about hypothetical actions, and percepts, or subjective experiences, are talking about hypothetical inputs.
  416. Tamam, kendimi biraz fazla ifade ettim.Okay, I'm getting ahead of myself.
  417. Şimdi size çok modlu bir sohbet botu göstereceğim.So I'm gonna now show you a multimodal chatbot.
  418. Bunu sadece bir slaytta göstereyim.Let me just show you on a slide.
  419. Öznel bir deneyim yaşayan çok modlu bir sohbet botu.A multimodal chat bot having a subjective experience.
  420. Yani bu çok modlu sohbet botunu alıyorum, bir kamerası var, bir robot kolu var ve görebiliyor.So, I take this multimodal chatbot, and it's got a camera, it's got a robot arm, and it can see.
  421. Ben onu eğitiyorum, önüne bir nesne koyuyorum ve "Nesneye işaret et" diyorum.So, I train it up, and I put an object in front of it, and I say, "Point at the object."
  422. Nesneye işaret ediyor, sorun yok.Points at the object, no problem.
  423. Sonra, bakmadığı sırada merceğinin önüne bir prizma koyuyorum, önüne bir nesne yerleştiriyorum ve "Nesneye işaret et" diyorum, o da oraya işaret ediyor,I then put a prism in front of its lens, when it's not looking, and I put an object in front of it, and say, "Point at the object," and it points over there,
  424. ben de "Hayır, nesne orada değil" diyorum.and I say, "No, that's not where the object is.
  425. "Nesne aslında tam önünde, ama merceğinin önüne bir prizma koydum" diyorum ve sohbet botu "Aa, anlıyorum" diyor.The objects actually straight in front of you, but I put a prism in front of your lens," and the chat bot says, "Oh, I see.
  426. "Prizma ışık ışınlarını büktü, yani nesne aslında orada, ama benim öznel deneyimim oradaydı."The prism bent the light rays, so the object's actually there, but I had the subjective experience it was there."
  427. Şimdi, eğer o "öznel deneyim" kelimesini bu şekilde kullanıyorsa, onu tam olarak bizim kullandığımız gibi kullanıyor demektir.Now, if it uses the words subjective experience in that way, it's using them exactly like we use them.
  428. Yani bunu söyleyen bir sohbet botu, nesnenin orada olduğuna dair bir öznel deneyim yaşamış olurdu.So a chatbot that said that would've had the subjective experience that it was there.
  429. Prizma, algı sistemini bozmuştu.The prism messed with its perceptual system.
  430. Algı sisteminde neler olduğunu size anlatmak istiyordu.It wanted to tell you what was going on in its perceptual system.
  431. Bunu anlatabileceği yol, algı sistemini bozmasaydık dünyada neyin olması gerektiğini söylemekti.And the way it could tell you is by telling you what would've had to been in the world had we not messed with its perceptual system.
  432. Sohbet botuna anlattığı şey buydu.That's what it's telling the chatbot.
  433. Tamam, benim iddiam şu: Çok modlu sohbet botları zaten öznel deneyimler yaşıyor.Okay, so my claim is multimodal chatbots already have subjective experiences.
  434. Tahmin edebileceğiniz gibi, öznel deneyim, bir çekiç ucu gibi ince bir başlangıç noktası.Now, as you can imagine, subjective experience is kind of the thin end of a wedge.
  435. Öznel deneyimden bahsetmeyi seçtim, çünkü duyumsama veya bilinçden bahsetmekten biraz daha temiz bir konu.I chose to talk about subjective experience 'cause it's sort of cleaner than talking about sentience or consciousness.
  436. Birçok insan, sohbet botlarının duyumsal (sentient) olmadığından çok emin.Many people are very confident that cat bots aren't sentient.
  437. Ama onlara "Duyumsal derken ne kastediyorsunuz?" diye sorarsanız,But if you ask them, "What do you mean by sentient?"
  438. "Bilmiyorum" derler, ama çok eminler, bilmem ki yok ama ne olduğunu da bilmiyorlar.They say, "I don't know," but they're very, I know they ain't got it, but I don't know what it is.
  439. (Seyirci gülüyor) Bana göre bu çok mantıklı bir duruş değil.(audience laughing) That seems to me not a very sensible position to hold.
  440. Belki bahsedeceğim diğer bir konu da bilinç.The other thing I might talk about is consciousness.
  441. Bilinç daha karmaşıktır çünkü genellikle öznel deneyimin aksine, kendiniz hakkında bir model oluşturmayı içerir.Consciousness is more complicated because it typically involves you having a model of yourself in a way that subjective experience doesn't involve so much.
  442. Bu yüzden öznel deneyimden bahsetmek daha kolaydır.So it's easier to talk about subjective experience.
  443. Ancak umudum, zihninizde bir iç tiyatro olduğu ve deneyimlerinizin bu iç tiyatroda gerçekleştiğine dair çok güçlü inancınızı sarsmışsam,But my hope is that if I've unsettled your very strong belief that there's this inner theatre and I have experiences in their mind, and they're in this inner theatre, they're things in this inner theatre.
  444. Bu inancı sarsıp üstesinden gelmeye başladığınızda, bu şeylerin bilinçli olduğuna inanmanın son derece makul olduğunu görebileceksiniz.Once I've unsettled that belief, and once you begin to get over that, you'll be able to see that it's perfectly reasonable to think that these things are conscious.
  445. Bir anekdotla bitireyim.I was once, I'll end with an anecdote.
  446. Bir keresinde Seattle'daki Microsoft'u ziyaret ediyordum ve oturamadım, bu yüzden oraya trenle gittim.I was once visiting Microsoft in Seattle, and I couldn't sit down, so I got a train there.
  447. Laboratuvarlarının bulunduğu Redmond'a tren istasyonundan bir taksiye bindim.I got a taxi from the train station to Redmond where their lab was.
  448. Otoyolda, büyük bir köprüyü geçiyorduk.And it was going across some, it was on a freeway, going across some big bridge.
  449. Taksici, Somali'den yeni göç etmiş bir Somali göçmeniydi.And the taxi driver was a Somali immigrant who'd recently immigrated from Somalia.
  450. Konuşma açmak için "Dinin ne?" diye sordu.And to make conversation, he said, "What's your religion?"
  451. Ben de "Aslında bir Tanrı olduğuna inanmıyorum" dedim; taksici saatte yaklaşık 90 km hızla giderken arkaya döndü (seyirci gülüyor) ve bana tamamen hayretle baktı.So I said, "Well, I don't actually think there's a God," and the taxi driver, he was going about sort of 60 miles an hour, the taxi driver turned round, (audience laughing) and he stared at me in total astonishment.
  452. Sanki Tanrı'nın her şeyi yönettiğini anlamayan biriyle karşılaşacağını hiç aklına getirmemişti.Like he'd never thought he'd ever meet someone who didn't understand that God runs things.
  453. Tamamen, tamamen şaşkına dönmüştü.He was just utterly, utterly amazed.
  454. Muhtemelen sadece üç saniye kadar arkasına döndü, çünkü hâlâ buradayım.Now, he probably only turned around for about three seconds 'cause I'm still here.
  455. (seyirci gülüyor) Ama çok uzun bir süre gibi geldi.(audience laughing) But it seemed like a very long time.
  456. Umarım çoğunuz da bunu hissediyordur.That's what many of you will be feeling hopefully.
  457. Farkına varmanızı istiyorum, o taksici kadar yanılıyorsunuz.I want you to realise, you're as wrong as that taxi driver was.
  458. (seyirci gülüyor) Tamam.(audience laughing) Okay.
  459. (seyirci gülüyor) Aslında o sadece bir şakaydı ve güldünüz, o halde bitti.(audience laughing) Actually that was just a joke and you laughed, so we are done.
  460. (seyirci gülüyor) (seyirci alkışlıyor)(audience laughing) (audience applauding)
Altyazı bilgisayarımda üretildi ve videoyla ilerler; bir satıra tıklayın, o ana atlasın.Subtitles generated on my computer; they follow the video — click a line to jump there.

BölümlerChapters

Bir başlığa tıklayın; video tam o ana gidip oynasın.Click a topic to jump the video to that exact moment.

  1. Zekânın iki yolu: mantık mı, öğrenme mi?Two paths to intelligence: logic or learning?
  2. Sinir ağları nasıl öğrenir? (backpropagation)How do neural networks learn? (backpropagation)
  3. Kelimeler anlamlarını nasıl kazanır?How do words acquire meaning?
  4. 1985'teki minik model anlamı nasıl öğrendi?How did the tiny 1985 model learn meaning?
  5. Dil gerçekte nasıl çalışır? (Lego / protein-katlanması analojisi)How does language really work? (Lego / protein-folding analogy)
  6. Yapay zekâ bizi yok edebilir mi? (alt-hedefler ve aldatma)Could AI wipe us out? (subgoals and deception)
  7. Dijital zekâ neden 'ölümsüz' ve neden üstün? (bilgi paylaşımı)Why is digital intelligence 'immortal' and superior? (knowledge sharing)
  8. Yapay zekânın öznel deneyimi / bilinci olabilir mi?Can AI have subjective experience / consciousness?