Yapay Zeka Tekilliğine Ulaştıysak Bunu Gerçekten Anlayabilir miyiz?

Mart 1993, Cleveland yakınındaki Lewis araştırma merkezi. NASA'nın VISION-21 sempozyumunda Vernor Vinge salona şunu söylüyor: otuz yıl içinde insanüstü zeka üretmenin teknik imkânına sahip olacağız. Kısa süre sonra insan çağı bitecek. Şaşıracağını da ekliyor: bu iş 2005'ten önce ya da 2030'dan sonra olursa.¹

Vinge San Diego State'te matematikçiydi, bilimkurgu da yazardı. Kelimeyi fizikten aldı. Kara deliğin olay ufkunun ötesinde elindeki denklemler çalışmayı bırakır. Tekillik, oraya bakıp anladık diyemeyeceğin yerin adı.

Kelime neden fizikten geldi

Vinge'in benzetmesi şu: bir noktadan sonra tarihi, alıştığın araçlarla okuyamazsın. Çünkü ilerlemeyi artık senden zeki bir şey yönetiyordur; o şey kendini de hızla iyileştirir; senin modelin geride kalır. 1993 metninde pencereyi net keser: 2005 ile 2030 arası. 2024'te öldüğünde pencerenin dış kenarı hâlâ açıktı. 2026'dayız, hâlâ içindeyiz. Bu, eşiğin geçildiği anlamına gelmez. Sadece Vinge'in kendi tarihini henüz yanlışlamadığı anlamına gelir.

Aynı metinde dört yol saymıştı: uyanık bir süperbilgisayar, uyanan bir ağ, insanla makinenin iç içe geçmesi, biyolojik zekanın yükseltilmesi. İlk üçü donanım eğrisine bağlıydı; o eğri gerçekten devam etti. Cep telefonun 1993'teki bir oda dolusu makineden hızlı. Eksik kalan "uyanma"nın kendisi. Donanım geldi. Eşik ilanı, en azından paylaşılan bir sınav olarak, gelmedi.

Fizikte tekillik, bilinen yasaların çöktüğü noktadır. Vinge bunu toplumsal bir ufka çevirdi. İnsanüstü zeka bilimi, teknolojiyi, belki kendi tasarımını da eline alınca, dışarıdaki insanın elindeki hikâye kalıpları yetmez. "Ne olacak?" sorusu, ufku geçtikten sonra aynı dilde cevaplanamaz. Bu yüzden tekillik bir takvim olayı gibi durur ama aslında bir okunabilirlik iddiasıdır.

Zincir 1965'te kuruldu

Fikrin motoru Vinge'den otuz yıl önce yazıldı. İngiliz istatistikçi I. J. Good, "ultra-zeki makine"yi şöyle tanımladı: herhangi bir insanın, ne kadar zeki olursa olsun, bütün zihinsel işlerini geride bırakan bir makine. Makine tasarlamak da bu işlerden biri olduğuna göre, böyle bir makine kendinden iyisini tasarlar. Ortaya bir zeka patlaması çıkar; insanın zekası geride kalır. İlk ultra-zeki makine, insanın yapmak zorunda olduğu son icattır.²

Bu bir ölçüm değil. Zincirleme bir akıl. Zincirin her halkası tartışılır. 1997'de IBM'in Deep Blue'su dünya satranç şampiyonu Garry Kasparov'u yendi; kimse buna tekillik demedi. 2016'da AlphaGo, Go ustası Lee Sedol'u geçti; yine denmedi. Bir oyunda üstün olmak, her işte kendini iyileştiren bir patlama değil. Good'un cümlesi ancak "makine tasarlamak" da o üstünlük alanına girince çalışır. O halka hâlâ iddia.

Dışarıdan bakınca gürültüye benzer

Marcus Hutter 2012'de soruyu tersine çevirdi. Patlamanın içinde olmayan, hızlanmayan bir insan ne görür? Kısa bir süre kayıt tutabilir, yavaşlatılmış film gibi bakabilir. Sonra kayıt yetmez. Dışarıdaki için süreç, zekadan çok tuhaf bir fiziksel dönüşüme benzer. Üstelik iyi sıkıştırılmış bilgi, rastgele gürültüden ayırt edilemez. Yani eşiğin ötesi "daha zeki bir konuşma" olarak görünmek zorunda değil. Anlamadığın bir uğultu olarak da durabilir.³

Bugünün dil modellerini tam olarak açıklayamıyor oluşumuz, bu kör noktanın küçük bir provası. Milyonlarca sayının içinde bir kararı adım adım insana çevirmek hâlâ yarım bir iş. Eşiği geçtiğini iddia eden bir sistem, bunu sana anlaşılır bir dille duyurmak zorunda değil. Duyursa bile, duyurunun kendisinin ne kadar güvenilir olduğunu yine senin araçlarınla tartmak zorundasın. Ölçün gerideyse sonuç da geride kalır.

Cetvel olmayınca herkes kendi eşiğini ilan ediyor

2023 sonbaharında Katja Grace ve meslektaşları, üst düzey yapay zeka dergilerinde yayımlamış 2778 araştırmacıya sordu. Yardımsız makinelerin her işte insanı geçmesine yüzde 10 ihtimal 2027, yüzde 50 ihtimal 2047. Bir yıl önceki ankette bu ikinci tarih 2060'tı; tahmin öne çekildi, ama hâlâ on yıllar. Bütün mesleklerin tam otomasyonu için medyan 2116.⁴

Aynı yıllarda bazı laboratuvar yöneticileri ve yorumcular, genel yapay zekanın çoktan geldiğini söyledi. İki taraf aynı cetveli kullanmıyor. Biri "her işte daha ucuz ve daha iyi" diyor, öbürü sohbetin akıcılığına bakıyor. Cetvel olmayınca tarih de olmuyor. Tekillik iddiası bu yüzden hem erken hem geç durabiliyor: çünkü geçtiğini gösteren tek, paylaşılan bir sınav yok.

David Chalmers 2010'da zeka patlamasını felsefi olarak ayıkladı ve kendi inancını da yazdı: otuz yıl içinde insan düzeyinde yapay zeka görmeye şaşırırdı, 2100'den önce bir patlamaya ise yarıdan fazla ihtimal verirdi.⁵ Aradan on altı yıl geçti; sohbet makineleri geldi, patlama gelmedi. Ya da geldi ve senin gördüğün şey sohbet. Hutter'ın uyarısı tam burada duruyor. Dışarıdaki göz, patlamayı patlama diye kaydetmek zorunda değil.

Vinge haklıysa, o eşiğin ötesi zaten okunaksız. O zaman "ulaştık mı?" sorusunun basında bir konferansla kapanması beklenemez. Elindeki iş daha küçük: sistem kendini senin denetleyebileceğinden hızlı mı iyileştiriyor, hâlâ kapatılabiliyor mu, hangi işte üstünlük gerçek üstünlük? Bunlar mühendislik soruları. Kozmik olanı, fark etmeye en az donanımlı olduğun soru olabilir.

kafa1milyon

Meraklı bir kafa. Bilimsel makaleleri, arşiv belgelerini ve saha notlarını okuyup gündelik dile çeviriyor; bilinmeyeni bilinmiyor diye yazmaktan çekinmiyor.