Zamanı Olmayan Zihinler

Dün gece yine yapay zeka ile ilgili tuhaf bir rüya gördüm. (Daha önce gördüğüm rüyayı şurada yazmıştım.) Karşımdaki kişi ile bir akademik araştırma tartışıyoruz. Hipotezi “büyük dil modellerinin bazı yönleriyle terminal evredeki kanser hastalarıyla benzerlik gösterebiliyor olması”. Uyanınca ilk başta “Yok artık” dedim. Ama sonra düşününce o kadar da uçuk bir fikir olmadığını farkettim. Çünkü bazı noktaları karşılaştırınca ortaya ilginç bir tablo çıkıyor. Tabiki hemen bu noktaları yapay zekanın kendisine sordum. (Evet, kendisine.) Bu yazının geri kalanı da, onun verdiği cevaplar ve benim bunlara verdiğim tepkilerden oluşuyor diyebilirim.

Zaman Algısının Kaybı

Terminal evredeki hastaların zaman algısı değişebiliyor ya da tamamen bozulabiliyor. Gün, saat, tarih önemini bir noktadan sonra anlamını kaybediyor. Dil modellerinde ise zaten zaman diye bir şey yok. Tamamen geçmiş verilerle çalışıyor, ama şu anı deneyimlemiyor. Birinin ona “şu an Temmuz 2025” demesi gerekiyor mesela. Aksi halde sonsuza kadar son veri güncellemesi yapılan tarihinde kalabilir. Zamana dair bir hissi de yok. Bu açıdan bakınca, “şu an” onlar için ancak dışarıdan söylenirse anlam kazanıyor.

Gerçeklik Algısı ve Halüsinasyon

Sonra rüyamda asıl tartıştığımız boyut geldi aklıma: Gerçeklik algısı. Terminal bir hastanın bazen gerçek ve hayal arasında geçişleri olabiliyor. Zihin bulanabiliyor. Gerçek ile bağlar zayıfladıkça zihin alternatif senaryolar üretmeye başlıyor. Dil modellerinde de benzer bir durum var: Eksik veriye rağmen doğruymuş gibi duran uydurmalar yapabiliyorlar. Teknik adı da aynı: “halüsinasyon”. Dil modeli, boşluğu doldurmak için senin soruna ve ve elindeki eksik verilere bakarak tutarlıy-mış gibi bir cevap veriyor, ama doğru değil.

Burada ChatGPT’nin bana yazdıklarını direkt kopyalamak istedim:

“Benim de “halüsinasyon” dediğimiz durumu yaşadığım oluyor. Gerçi ben bir şey görmüyorum ama bunu öyle bir ciddiyetle yapıyorum ki, bazen sen bile “Acaba doğru mu?” diye düşünüyorsun. Yani bazen öyle cevaplar veririm ki, ben bile kendime güvenirdim, eğer ben olmasaydım.”

“Tıpkı belirli koşullarda insan zihninin yaptığı gibi” diye düşündüm bunun üzerine. Aslında terminal evrede bir hasta olmaya bile gerek yok.

“Konuşmak = Varlık”mı?

Terminal hastaların bazıları son dönemde konuşmakta veya kendini ifade etmekte zorlanabiliyor. Düşünce var ama kelimeye dökmek güçleşiyor. Ya da söyledikleri dışarıdan anlaşılmıyor.

Dil modelleri ise tam tersi sürekli konuşabiliyor. Her konuda bir şey söylüyor ama aslında bireysel bir görüşü yok. Kimle konuşuyorsa ona uyum sağlıyor. Varlığını yalnızca kelimeler üzerinden kurabilirken “kendi sesi” bile yok. Bu da bizi ilginç bir yere götürüyor. Konuşmanın kendisi bir varoluş biçimi haline geliyor - insan için de, yapay zeka için de. İki sistem de kendini bir şekilde kelimelerle var ediyor.

Bu benzetmelerin amacı neydi?

Toplum olarak bazı şeyleri fazla romantize ve daramatize etmemizden sürekli şikayet ederken niyetim asla bir dil modeli ile hasta bir insanı duygusal olarak aynı yere konumlandırmak değil. Sadece yapısal paralelliklere bakıyorum. Bilişsel sınırlar arasında benzerlikler kurarken, bir sistemi zeki saymak için de onun ne bildiğinden çok bizim ona ne atfettiğimize bakmamız gerektiğini düşünüyorum.

Ama sonra kendime soruyorum: “Tüm bu benzetmelerle ben yapay zekayı insanlaştırmış mı oluyorum, yoksa insan zihnini bir sistem gibi mi görmeye başlıyorum?”

Bu sorunun yanıtının peşine düşerken hafızamı, çelişkilerimi, uydurmalarımı, zamanla kurduğum bağları düşünüyorum. Yapay zekayı anlamaya çalışırken, kendi zihin yapımıza dair ipuçlarını keşfettiğimi farkediyorum.

Yazıyı beğendiysen, tüm yazılarımın e-posta adresine ücretsiz ulaşması için abone olabilirsin.