Son bir yıldır her ürüne ajan yazıyorlar. Takvime bakıyor, maili özetliyor, uçak deniyor. Reklamda da aynı kelime: özerk asistan, kendi kararını veren sistem. Kelime şişti. Ajan olmak, programa bir iş listesi verip tarayıcıyı açtırmak gibi duruyor.
Laboratuvarda başka bir örnek duruyor. E. coli şekere doğru yüzer. Beyni yok, plan yazmıyor. Yine de rastgele dönmüyor: çevredeki kimyasalı okuyor, yönünü değiştiriyor, kendi zarı durduğu sürece yaşıyor. Uygulama ile bakteri aynı kelimeye sığdırılınca kafa karışıyor. Hangisine irade denecek?1
Ajan deyince ne kastediliyor
Yapay zekâ ürününde ajan, pratikte şuna deniyor: model dışarıda bir araç kullanabiliyor. Tarayıcı açıyor, dosya okuyor, başka bir modele soruyor. İşe yarıyor. Termostat da hedefe göre vanayı kısar. Kimse ona irade demez. Faydalı olmak ile kendi adına hareket etmek karışınca kelime şişiyor.
Araştırmada da aynı dağınıklık var. Ajan bazen robotun hareket döngüsü, bazen plan yapan program, bazen sohbet penceresi oluyor. 2009'da Xabier Barandiaran, Ezequiel Di Paolo ve Marieke Rohde Adaptive Behavior'da bunu yazdı. Tanımlar ya her şeyi kapsıyor ya da cevabı baştan varsayıyor. Üç şart önerdiler.2
Ne zaman ajan dersin
İlki sınır. İçeri ile dışarı ayrılır. Hücre zarı bunun en sade hali. İkincisi hareketi kimin başlattığı. Sistem sadece itilmez; kendisi de ortamı değiştirir. Üçüncüsü bir ölçüt. Doğru ve yanlış vardır. Canlıda bu ölçüt çoğu zaman hayatta kalmaktır.
Üçü bir aradaysa konuştuğumuz şey, çevresiyle ilişkisini ayarlayarak kendini ayakta tutan bir birimdir. Beyin büyüklüğü şart değil. İlk hücre modelleri bile bu çerçeveye girebiliyor. İrade burada bir kişilik süsü değil. Örgütün durmadan kendini tutması.2
Canlı neden duramaz
1970'lerde Humberto Maturana ve Francisco Varela buna otopoiesis dedi: kendini üretmek. Canlı, parçalarını üreten bir ağdır; o parçalar da aynı ağı yeniden kurar. Zarı biri dışarıdan yapıştırmaz. Ağ, kendi sınırını çıkarır.3
Makine ile canlıyı ayıran da bu. Telefonu sen açarsın. Bakteri açılmaz; kendi ağını kurmayı bırakırsa ölür. Bir şeyin senin için önemli olması da buradan gelir. O şey senin varlığını bozabiliyorsa önemlidir. Chatbot yanlış yazınca utanan sen olursun. O utanç onun sınırını bozmaz.
Program senin hedefini taşır
2024'te Frontiers in Psychology'de yayımlanan bir yazı, canlıdaki yönelimi ile programın problem çözmesini ayırıyor. Canlı önce neyin önemli olduğuna karar vermek zorunda. Program ise senin koyduğun hedefi iyileştirir. Hedefi sen verdin. Riski de sen taşırsın.4
Sohbet modeli düzgün cümle kurabilir. Açlıktan ölmez. Takvimi karıştırınca mahcup olan yine sen olursun. Felsefe yüzyıllardır özgür iradeyi tartışıyor. Biyolojinin daha küçük iddiası şu: önce gerçek bir ajanı tarif et, sonra irade kelimesini ona bağla.
Ürün sayfasında ne bakılır
Ajan yazısını görünce üç şey yeter. Bu sistem kendi sınırını mı koruyor, senin hesabını mı? İşe kim başladı, senin yazdığın cümle mi? Başarı kimin hayatına yazılıyor? Çoğu üründe ölçüt senin randevun, senin faturan. Araç çağırdığı için özerk görünür. Aslında senin işini hızlandıran bir otomasyon.
Otomasyon kötü değil. Kötü olan, programa irade etiketi yapıştırmak. Canlının gösterdiği şey sade. Gerçek irade, kendini tutmaya devam eden bir birimin, kendi varlığını riske atan seçim yapabilmesidir. Bakteri bunu kimyasalla yapar. Sen işte, evde, teknoloji seçiminde yaparsın. Chatbot hâlâ senin riskini taşıyan bir ayna. Ofiste ajan panosu kurunca bakılacak yer hız değil. Hata kimin cüzdanına, kimin adına yazılıyor?
İrade sihir değil. Canlıda sınır var, hareketi o başlatıyor, bir ölçüt var. Ajan diye satılanların çoğu hızlı araç zinciri. Kullan. Kelimeyi şişirme. Kelime şişince beklenti şişer, fatura yine sana gelir.
Dipnotlar ve Kaynaklar
- Bakteriyel kemotaksis (kimyasal uyaranlara yönelim): E. coli'nin gradyanı okuyup yüzme/tumble davranışını ayarlaması, minimal hedefe yönelik davranışın klasik örneğidir. Genel giriş için mikrobiyoloji ders kitapları ve deneysel literatür (Berg & Brown hattı). ↩
- Barandiaran, X. E., Di Paolo, E., & Rohde, M. (2009). "Defining agency: Individuality, normativity, asymmetry and spatio-temporality in action." Adaptive Behavior, 17(5). Üç koşul ve ajan tanımı: özerk örgütün çevre bağını uyarlayarak düzenlemesi ve kendini sürdürmesi. Yazar özeti: xabier.barandiaran.net ↩
- Maturana, H. R., & Varela, F. J. (1980). Autopoiesis and Cognition: The Realization of the Living. Dordrecht: D. Reidel. Otopoiesis: kendini üreten süreçler ağı ve sınırın bu ağın sonucu olması. ↩
- Jaeger, J., Riedl, A., Djedovic, A., Vervaeke, J., & Walsh, D. (2024). "Naturalizing relevance realization: why agency and cognition are fundamentally not computational." Frontiers in Psychology. DOI: 10.3389/fpsyg.2024.1362658. Organizma ajanlığında alakalılık gerçekleştirme ile algoritmik problem çözme ayrımı. ↩
Kerem
İstanbul'da yaşıyor. Teknoloji yazıyor.
