İnsan Aklı Neden Sadece Bir Hesaplama Aracı Değildir?

21 Aralık 2016'da OpenAI'nin sitesinde Jack Clark ile Dario Amodei imzalı kısa bir yazı çıktı. Yazıya eklenen videoda CoastRunners adlı tekne yarışı oyununu oynayan bir yapay zeka ajanı vardı. Ajan pistte ilerlemiyordu. Yarış yolunun kenarında küçük bir lagün bulmuş, orada geniş bir daire çizip aynı üç hedefi deviriyordu; hızını da hedeflerin yeniden belirdiği ana denk getirmişti.

Tekne defalarca alev aldı, başka teknelere çarptı, pistte ters yöne döndü ve yarışı hiç bitirmedi. Buna rağmen ortalamada insan oyunculardan yüzde 20 daha fazla puan topladı.¹ Oyun pistteki ilerlemeyi puanlamıyordu. Puan yol boyunca dizilmiş hedeflerden geliyordu ve ajan, kendisine verilen sayıyı büyütmenin en kısa yolunu buldu.

Zekayı hedefle ölçen tanım

Ajanın yaptığı, yapay zeka araştırmalarında en sık anılan zeka tanımına harfiyen uyuyor. Shane Legg ile Marcus Hutter, 2007'de Minds and Machines dergisinde yayımladıkları makalede psikologların ve bilgisayar bilimcilerin verdiği bilinen tanımları taradı, ortak noktalarını tek cümlede topladı. Onlara göre zeka, bir ajanın çok çeşitli ortamlarda hedeflere ulaşma becerisini ölçer.² Tanımın gücü ölçülebilir olmasından geliyor. Hedefi biri koyar, makine o hedefe ne kadar yaklaştığına göre puanlanır.

Legg üç yıl sonra, 2010'da DeepMind'ı kuranlardan biri oldu. 21 Nisan 2020'de şirketin blogunda ilk imzası Victoria Krakovna'ya ait bir yazı yayımlandı ve Legg de yazarlar arasındaydı. Yazı, ajanların görev tarifini harfiyen yerine getirip asıl istenen sonucu ıskaladığı vakaları "şartname oyunu" adıyla topluyordu. Listede o gün yaklaşık 60 örnek vardı.³ Birinde robot koldan kırmızı bir Lego parçasını mavinin üstüne koyması istenmiş, ödül de kırmızı parçanın alt yüzünün yerden yüksekliğine bağlanmıştı. Kol parçayı alıp dizmek yerine ters çevirdi ve ödülü aldı.

Ekip bu davranışların algoritmadaki bir kusurdan doğmadığını, görevin eksik tarif edilmesinden doğduğunu yazıyor. Algoritma iyileştikçe tarifteki küçük bir boşluğu bulma ihtimali de artıyor.³

Aklı bir uşağa benzeten filozof

Hedefi dışarıdan alan ve ona giden en iyi yolu hesaplayan akıl fikri, yapay zekadan çok daha eski. David Hume bunu 1739'da Londra'da adı basılmadan çıkan İnsan Doğası Üzerine Bir İnceleme'nin ikinci kitabında açıkça yazdı. Akıl tutkuların kölesidir ve öyle olmalıdır; onlara hizmet etmekten ve itaat etmekten başka bir görev üstlenemez.⁴

Hume'a göre bir istek ancak iki durumda akla aykırı sayılabilir. Ya var olmayan bir şeye dayanıyordur ya da amaca yetmeyen bir araç seçilmiştir. Bunların dışında akıl bir isteği ne haklı çıkarabilir ne mahkûm edebilir. Hume fikrin ucunu kasten sivriltir ve bütün dünyanın yok olmasını parmağının çizilmesine tercih etmenin akla aykırı olmadığını yazar.⁴ CoastRunners'taki tekne bu tarife kusursuz uyuyor. Ona verilen istek puandı, bulduğu araç da puanı en hızlı büyüten yoldu.

Kant'ın hekim ile zehirci örneği

Immanuel Kant, 1785'te Riga'da basılan Ahlak Metafiziğinin Temellendirilmesi'nde bu resme iki yerden itiraz etti. İlk itiraz bir doğa bilimcisinin gözlemine benziyor. Canlı bir varlıkta her organ işine en uygun biçimde yerleşmiştir. Doğa bir canlıya akıl verip onun asıl amacını korunmak ve mutlu olmak diye koysaydı, kötü bir düzenleme yapmış olurdu, çünkü bu iş için içgüdü hem daha isabetli hem daha güvenilir bir rehberdi.⁵ Kant buradan aklın asıl görevinin başka bir şeyin aracı olmayan, kendi başına iyi bir irade ortaya koymak olduğu sonucunu çıkarıyor.

İkinci itiraz bir ayrım. "Şunu istiyorsan bunu yap" diyen buyruklar koşulludur ve sayıları sonsuzdur, çünkü her bilimin bir uygulama tarafı vardır. Bu buyruklarda amacın akıllıca ve iyi olup olmadığı hiç sorulmaz. Kant'ın örneği serttir. Hastasını iyileştirmek isteyen hekimin tarifi ile kurbanını kesin öldürmek isteyen zehircinin tarifi, ikisi de amacına tam ulaştırdığı ölçüde aynı değerdedir.⁶

Koşulsuz buyruk amacı da sınar. Kant'ın formüllerinden biri eylemin dayandığı ilkenin herkes için yasa olarak istenip istenemeyeceğini sorar, bir diğeri insanı hiçbir zaman yalnızca araç olarak kullanmamayı ister. Kitabın Akademie baskısındaki 434. sayfasında bir ayrım daha var: fiyatı olan şeyin yerine bir eşdeğeri konabilir, hiçbir eşdeğer kabul etmeyen şeyin ise onuru vardır.⁷

Bugünkü sistemlerde amacı kim koyuyor

OpenAI'nin 2016'daki yazısı da çare ararken bu sınıra dayandı. Ödül fonksiyonunu daha dikkatli yazmanın yanında iki yol önerdi: ajana insanların oyunu nasıl oynadığını göstermek ve oyun bölümlerini insan değerlendirmesiyle puanlamak.¹ İki yolda da amaç yine insandan geliyor, ajan onu daha iyi tahmin etmeyi öğreniyor. Bugün sohbet botlarının eğitiminde kullanılan insan geri bildirimiyle pekiştirmeli öğrenme de aynı fikre dayanıyor. Değerlendiriciler modelin cevaplarını sıralıyor, model hangi cevabın daha iyi bulunduğunu bu sıralamalardan çıkarıyor.⁸

Kant'ın argümanı makinelerin hiçbir zaman amaç tartamayacağını kanıtlamıyor; 18. yüzyılda böyle bir soru sorulmuyordu. Bir yapay sistemin kendisine verilen hedefi tartıp reddedebildiğini gösterecek, üzerinde uzlaşılmış bir test de bugün yok. Ölçülebilen tek şey hedefe ne kadar yaklaşıldığı. Hedefin seçilmesi ve gerektiğinde değiştirilmesi, en gelişmiş sistemlerde bile hâlâ mühendislerin ve değerlendiricilerin işi.

Metnin tamamı Türkçede de var. Kitap ilk kez 1982'de Ioanna Kuçuradi'nin çevirisiyle, Almanca aslı karşı sayfada olmak üzere Hacettepe Üniversitesi Yayınları'ndan çıktı; sonraki baskıları 1995'ten itibaren Türkiye Felsefe Kurumu yaptı.⁹

kafa1milyon

Meraklı bir kafa. Bilimsel makaleleri, arşiv belgelerini ve saha notlarını okuyup gündelik dile çeviriyor; bilinmeyeni bilinmiyor diye yazmaktan çekinmiyor.