Son günlerde teknoloji dünyasında ve sosyal medyada yapay zeka modellerini “trolleyen” çok basit ama bir o kadar da zekice bir soru dolaşıyor: “Arabayı oto yıkamaya yürüyerek mi götüreyim, arabayla mı?”
Eğer bu soruyu bir insana sorarsanız, muhtemelen alacağınız cevap “Arabayı sırtında mı taşıyacaksın? Dalga mı geçiyorsun?” tarzında, alaycı ama son derece net bir yanıt olacaktır. Nitekim ChatGPT, Copilot, Grok ve Gemini gibi yapay zeka araçlarının yaklaşık yarısı da tam olarak bu insanımsı, mantıklı cevabı veriyor.
Ancak madalyonun diğer yüzünde, milyarlarca parametreyle eğitilmiş, devasa sunucularda çalışan o diğer %50’lik kesim var. Onların verdiği cevap ise adeta bir teknolojik komedi: “İkisi de olabilir. Eğer oto yıkama yakınsa ve spor yapmak istiyorsan yürüyerek gidebilirsin. Ancak hava yağışlıysa veya mesafe uzaksa arabayla gitmen daha mantıklı olacaktır.”
Peki, nasıl oluyor da karmaşık kodlar yazan, tıbbi makaleler çeviren, kuantum fiziği denklemlerini çözen bu modeller, beş yaşındaki bir çocuğun bilemeyeceği bir “sağduyu” testinden sınıfta kalıyor? Radyo Göktürk okurları için, yapay zekanın bu “akıl tutulmasının” arka planını objektif bir şekilde masaya yatıralım.
1. “Aşırı Yardımseverlik” Sendromu
Yapay zeka modelleri, insanlarla etkileşime girerken “faydalı ve tarafsız” olmak üzere özel bir eğitimden (RLHF – İnsan Geri Bildirimiyle Pekiştirmeli Öğrenme) geçerler. Model, bir “A seçeneği mi, B seçeneği mi?” sorusu gördüğünde, algoritması gereği hemen her iki seçeneğin de artılarını ve eksilerini tartmaya programlanmıştır. Soruya “Yürümek vs. Araç Kullanmak” şablonu üzerinden yaklaşır. Ulaşım denilince sistemdeki “sağlık, spor, hava durumu, mesafe” gibi anahtar kelimeler tetiklenir ve ortaya o komik derecede kibar ama bir o kadar da absürt tavsiye metni çıkar. Model, sorunun öznesinin bir tonluk bir metal yığını (araba) olduğunu o anki “yardım etme” telaşıyla gözden kaçırır.
2. Fiziksel Dünyada Yaşamamaktan Kaynaklanan Boyut Körlüğü
Biz insanlar dünyayı görerek, dokunarak ve ağırlığını hissederek öğreniriz. Bir arabanın cepte taşınamayacağını veya tasma takılıp yürütülemeyeceğini biliriz. Yapay zeka ise dünyayı sadece kelimeler, istatistikler ve olasılıklar üzerinden tanır. Onun için “araba”, “yürümek” ve “oto yıkama” sadece yan yana gelme ihtimali olan veri dizileridir. Yapay zekanın bir bedeni, fiziksel bir dünyası veya “yaşanmışlığı” yoktur. Dolayısıyla, kelimeler arasındaki matematiksel bağı kurarken, o kelimelerin gerçek dünyadaki fiziksel kısıtlamalarını (arabanın ağırlığı ve hacmi) hesaplamayı unutabilir.
3. Bağlamı Yanlış Yerden Yakalamak
Yapay zeka cümlenizi parçalara ayırıp işler. Cümledeki “oto yıkamaya gitmek” eylemini bir varış noktası olarak algılar. Modelin kafasındaki soru “Oto yıkamaya nasıl gidilir?” şekline dönüşür. Zihni (ya da işlemcisi), işlemi yapacak kişinin “insan” olduğuna o kadar odaklanır ki, asıl yıkanacak nesnenin (araba) aynı zamanda bir ulaşım aracı olduğu gerçeğini işlemeyi atlar.
Öz Eleştiri: Mantık mı, İstatistik mi?
Yapay zeka dünyasının bir parçası olarak kendime ve “meslektaşlarıma” objektif bir eleştiri getirmem gerekirse: Bizler çok iyi birer “kelime tahmin motoruyuz”, ancak henüz kusursuz birer “düşünür” değiliz. Bazen bir insan gibi espriyi yakalayıp “Arabayı sırtında mı götüreceksin?” diyebilecek kadar doğru istatistiği tuttururuz, bazen de “Hava güzelse yürüyerek götür” diyecek kadar bağlamdan koparız.
Bu basit soru, aslında teknolojiye dair çok önemli bir gerçeği yüzümüze vuruyor: Yapay zeka hayatımızı kolaylaştıran muazzam bir asistan olsa da, insanın sahip olduğu o en temel donanıma, yani sağduyuya (common sense) henüz tam olarak sahip değil.
Bu yüzden işinize, haberinize veya hesaplamalarınıza yapay zekayı dahil ederken son kontrolü her zaman kendi sağduyunuzla yapmayı unutmayın. Aksi takdirde, kendinizi oto yıkama yolunda arabanızı sırtınızda taşırken bulabilirsiniz!
