Hala Telefon Numarası Ezberleyen Var mı?
Toplum ve Teknoloji bültenini yakından takip edenlerin bildiği üzere, “teknoloji bize ne kazandırır, bizden neleri alır?” sorusu, üzerinde sıkça durduğumuz temel meselelerden biri. Bu soruyu genellikle günümüzün yeni teknolojilerine yönelik sorsak da, gündelik yaşamın parçası haline gelmiş, artık sıradanlaşmış teknolojiler de bu sorgulamadan muaf kalmıyor.
2005 yılında New York Times’da yayınlanan “Bir Sayı Düşün… Haydi Düşün” başlıklı yazı kanıksadığımız birçok teknolojinin benzer sınamalarla geldiğini gösteriyor.
Cep telefonu kullanımı hayatımıza sayısız kolaylık getirse de beraberinde başka yetenekleri de sessizce bizden götürüyor. Örneğin artık telefon numaralarını ezberlememiz gerekmiyor. Times makalesinin yazarı Rachel Metz bu duruma dair çeşitli araştırma ve örnekleri bir araya getirerek akıllı telefonlardan sonra pek çoğumuzun vazgeçtiği numara ezberleme alışkanlığını irdeliyor. Telefon numaralarının unutuluşuyla alakalı problemler yaşayan bir kaç örnek üzerinden tezini destekliyor. Bütün bu örneklerin dolaylı olarak vardığı sonuç ise bilişsel yüklerimizi devrettiğimiz düzlemleri kaybettikçe hareket alanımızın daraldığı yönünde.
Sabit telefonlar hayatlarımıza girdiğinde pek çoğumuz ihtiyacımız olan numaraları ezbere biliyorken, bugün böyle bir külfete katlanmamıza gerek yok gibi görünüyor. Bu durum her ne kadar kolaylık olarak görülse de bilişsel hafifleme risklerini (cognitive offloading) de beraberinde taşıyor. Zira numaralardan hareketle neredeyse bütün bilişsel envanterimizin zihnimizin dışında muhafaza edildiğini söylememiz mümkün. İşte tam bu durum, yani zihinsel yük olacak içeriklerin zihnin dışına taşınması literatürde bilişsel hafifleme olarak ifade ediliyor. Elbette bilişsel hafifleme yalnızca telefon numaralarını rehbere kaydetmek ile sınırlı değil. Telefonlarımızdaki not uygulamalarından hatırlatıcılara, yapay zeka temelli sohbet robotlarından internette bir bilginin muhafaza edilmesi fikrine kadar pek çok gündelik davranışımız bilişsel hafiflemeyi barındırıyor.
Bilişsel hafifleme her ne kadar kavramsal anlamının örtüşmesi noktasında tam anlamıyla paralellik barındırmasa da akıllara tarihi bir örnek olan İmam Gazali’nin ilim yolculuğundan sonra memleketine dönerken karşılaştığı eşkiyaları getirir. Gazali ilim tahsilinin ertesinde memleketine dönerken eşkiyalar tarafından çevrelenip bütün eşyaları imha edilir. Bunun üzerine Gazali yalnızca kitaplarını istediğinde, rivayet odur ki eşkiyalar kitaplara muhtaç bir alim oluşundan ötürü Gazali ile alay ederler. Bundan sonra Gazali bütün notlarını ezberler ve tedris eder. Artık İmam Gazali’nin bilişsel yükünü hafifleten kitaplara ihtiyacı yoktur. Elbette bu otantikliği sorgulanabilir bir örnek olarak görülebilir. Ancak bu örneğin içinde yaşadığımız yapay zeka dünyasına söylediği bir şeyler vardır.
Zihinsel yüklerin hafifletilmesiyle bu yükler kitaplara, hesap makinelerine, bilgisayarlara, akıllı telefonlara ve yapay zeka ürünlerine devredildi. Ancak bu devir zihinsel yükü hafifletirken zihnimizi de eksiltiyor gibi görünmekte. Bu durum bilişsel psikoloji ve nöroloji literatüründe son yıllarda oldukça geniş yer almaya başladı. 2019 yılında yayınlanan bir makalede kullanılan “bilişsel protez” (cognitive prosthesis) ifadesi, yapay zeka kullanımıyla bilişsel olanın protezleştiği ifade ediliyor. Belirli başlı organların protezlerle ikame edildiği gibi zihnin de ikame edilebileceğini iddia eden bu fikre göre bilişsel protez çok tedirgin edici bir gelişme değil. Zira pek çok gündelik işimizi kolaylaştıran etkilere sahip. Ancak işlerimizin kolaylaşması ne pahasına gerçekleşiyor?
Tam burada başka bir soru daha ortaya çıkıyor. Yüzyıllardır farklı araç gereçlerle bilişsel yüklerimiz hafifliyorken yapay zeka konusunda bizi bu kadar tedirgin eden şey ne? Bu soruya verilen cevaplar henüz genel kabul görmüş neticelere dayanmasa da burada farklı hipotezlerden söz etmek mümkün. Geçtiğimiz yıl Nöropsikoloji dergisinde yayınlanan ChatGPT gibi sohbet robotlarının potansiyel bilişsel risklerine odaklandığı makalesinde Umberto León Domínguez, algoritmaların gelecek kuşakların bilişsel süreç ve yapıları üzerinde nasıl etkiler yaratabileceğine dair hipotezler öne sürüyor. Domínguez’e göre bu algoritmalar nörolojik dönüşümlere sebep olarak geri dönülmez evrimleri beraberinde getiriyor. Bu evrimler Temelde YZ sohbet botlarının sürekli kullanımının ise özellikle problem çözme gibi yüksek düzey bilişsel işlevlerin verimliliğini azalttığını dile getiriyor.
Domínguez’in ChatGPT’yi diğer araçlardan ayırdığı nokta ise şu: ChatGPT'nin bağımsız olarak fikir ve çözüm üretme ve hatta sohbet etme becerisi. Geleneksel araçlarda girdileri (input) kullanıcının girmesi gerekirken YZ sohbet robotlarında girdiler halihazırdaki veri setlerinden yapılan çeşitlemelerle ikame edilebiliyor. Fikri olan bir sohbet robotu aramızda dolaşmaya başlıyor.
Sonuç olarak telefon numaralarını unutmamız belki de çok büyük bir sorun değil. Hatta aksine bilişsel külfetten kurtulmak o külfeti çeken bölümleri farklı işler için kullanma imkanı barındırıyor. Ancak bilişsel hafiflemeyle bilşisel yetilerin körelmesi arasındaki ilişkinin de görmezden gelinmemesi gerekiyor.
Yapay zekanın zihinsel yetilerimizi zayıflatmak zorunda değil, başka türlüsü de elbette mümkün. MIT’den Ethan Mollick’in yakın zamanda ifade ettiği gibi:
“Yapay zekanın ‘zihnimizi körelteceği’ yönündeki korkumuz, aslında kendi tembelliğimizden duyduğumuz bir endişe. Bu teknoloji, düşünme zahmetinden kurtulmak için kolay bir yol sunuyor ve biz de bu yolu seçebileceğimizden kaygılanıyoruz. Kaygılanmakta haklıyız. Ama unutmamalıyız ki, bu konuda bir seçme hakkımız var.”
Bu bakış açısı, meselenin teknolojiyle olduğu kadar onunla kurduğumuz ilişkiyle ilgili olduğunu hatırlatıyor.
Yapay Zekanın Geleceğine Dair
OpenAI’nin eski yönetim kurulu üyelerinden Helen Toner bir teknoloji olarak yapay zekanın ne yönde gelişebileceğine dair ihtimalleri değerlendirdiği konuşmasında yapay zekanın geleceğine dair tartışmaları üç ana soru etrafında dile getiriyor. Bu sorular sırasıyla; mevcut paradigmanın ne kadar ileriye gidebileceği, bir yapay zekanın başka bir yapay zekayı ne kadar geliştirebildiği, ve gelecekteki yapay zekaların araç olarak kalmaya devam edip etmeyecekleri yönünde.
Yapay zeka yarışına dair gelişmeler hız kesmeden devam ederken gelişimin seyrini tartışan neredeyse bütün aktörler farklı kulvarlardan spekülasyonlarda bulunuyor. Pek çokları oldukça hayati olduğu düşünülen sorulara cevap arıyor. Yapay zekanın yarını ne olacak? Helen Toner de bu isimlerden biri. Mevcut yapay zeka paradigmasının imkanlarını, gelecek fırsatlar ve riskler Toner’in cevaplamaya çalıştığı sorular arasında. Şimdilik bu soruların cevapları birer spekülasyondan öteye varamasa da her geçen gün yeni sorular üretirken sorulmuş sorulara da cevaplar veriyor.
Toner'ın sorduğu ilk soru mevcut GPT paradigmasının bizi ne kadar ileriye götürebileceği. Toner yapay zekanın 10-15 yıllık gelişim sürecinin büyük teknolojik kırılmalar sonucu ortaya çıkmadığını bunun yerine küçük ve orta ölçekli gelişmelerin sonucu olduğunu söylüyor. Konuşmasındaki argümana göre son on yılın ilerlemeleri, büyük sıçramalardan çok, küçük ve orta ölçekli yeniliklerin birikimiyle gerçekleşti. GPT tarzı modeller, hala ölçeklenebilecek bazı umut verici alanlara (akıl yürütme, çok modluluk, ajan yetkinlikleri) sahip. Ancak halüsinasyon, düşük güvenilirlik (reliability), aşırı kendine güven, uzun vadeli hafıza eksikliği ve fiziksel beden yoksunluğu gibi bazı yapısal problemler, bu yaklaşımın sınırlı olabileceğine işaret ediyor. Dolayısıyla, şu anda üzerinde ilerlediğimiz “teknoloji ağacının dalı” meyve vermeye devam edecek olsa da, bir noktada yeni bir dala yönelmek gerekebilir.
Peki yapay zeka, yapay zeka geliştirmekte ne kadar ileri gidebilir? Halihazırda kullanılan modellerinin bu tip geliştirmelerde netice vermeye başladığını biliyoruz. AlphaEvolve ve ClaudeCode gibi modeller bunun örnekleri olarak karşımızda. Toner, bu gelişmelere rağmen yapay zekanın bu konuda ne kadar ileri gidebileceğinden emin olmayacağımızı belirtiyor. Ancak henüz bazı darboğazlar aşılmış değil. Hata oranları yüksek, insan denetimi hala şart, modellerin araştırma sezgisi eksik ve gerçek dünya testleri gerekli. Bu döngünün ivmelenmesi, bu teknik ve pratik sınırların aşılıp aşılamayacağına bağlı.
Bir başka soru ise gelecekteki yapay zeka sistemlerinin araç olarak kalmaya devam edip etmeyecekleri üzerine. Toner günümüz yapay zeka teknolojilerinin önceki teknolojiler gibi insan failliğinde bir araç olduğunu söylüyor. Bu yönde gelecekte de yapay zeka sistemlerinin ne istediği ya da ne yaptığı değil kullanıcıların insiyatiflerinin belirleyeciği olacağı söylenebilir. Ancak, Toner yapay zeka teknolojilerini geçmiş teknolojilerden ayıran bir takım özelliklerin olduğunu da belirtiyor. Bunların en önemlisi araştırmacıların da sıklıkla dile getirdiği yapay zeka sistemlerinin inşa edilmediği (built up), büyütüldüğü (grown) fikri. Yani yapay zeka üretim sürecinde eski teknolojilerdeki gibi tek tek işlevi bilinen malzemelerin birleştirilmesinden ziyade algoritmaların belli veri setleri üzerinde matematiksel optimizasyon süreçleri dolayında geliştiğini, büyüdüğünü görüyoruz. Bu gelişim süreci konvansiyonel olarak alışık olduğumuz biçimden YZ gelişimini ayırıyor.
Bir diğer itiraz da yapay zekaların kendilerine ait bir bilinç olmasa dahi “durumsal farkındalık” geliştirdikleri. Test süreçlerinde kendilerinin testte olduklarını anlayıp buna göre farklı hareketler sergiledikleri biliniyor. Böylece sandığımız gibi otantik bir içsel bilinçleri olmasa da görünümler üzerinden testleri fark edebiliyormuş gibi davranmaları ve içinde bulundukları durumları teşhis ettiklerini ima eden fonksiyonlar göstermeleri ulaştıkları noktalara dair fikir veriyor.
Bu tartışmalar çerçevesinde Toner yapay zeka sistemleri ve teknolojilerinin sadece bir araç olarak kalmayacağı öte taraftan yine öz-bilince sahip yeni bir tür, varlık haline de gelemeyeceğini düşünüyor. Orta bir nokta olarak yapay zekanın kendini devam ettirecek optimizasyon sürecine dönüşebileceğini öngörüyor.
Grok, Filtresiz İletişim ve İsrail
Geçtiğimiz hafta X (eski adıyla Twitter) sosyal medya gündemini kasıp kavuran bir gelişmeye şahit oldu. Elon Musk’ın yapay zeka şirketi olan xAI’ın sohbet robotu Grok, geçen hafta gelen bir güncellemenin neticesinde, yapay zeka uygulamalarının aşina olduğumuz “Yeşilçam Türkçesi” tarzında konuşma üslubundan farklı olarak, oldukça saldırgan ve uygunsuz bir dil kullanmaya başladı. Musk’ın ‘filtresiz ve hakikati olduğu gibi aktaran bir model’ olduğu iddiasıyla piyasaya sürdüğü Grok bir süreliğine askıya alındı, xAI CEO’su Linda Yaccarino istifa etti.
Görünen o ki mesele sadece Grok’un birtakım uygunsuz ifadeleri sarf etmesinden ibaret değil. Grok’un orantısız bir biçimde sosyal medyadaki bazı grupların retoriğini benimsemesi da bunun bir göstergesi olarak görülebilir. Örneğin, Grok aşırı sağcı grupların “The Great Replacement” teorisini yani “beyaz ırk”ın planlı olarak göç ve çeşitli yollarla yok edilmek istendiği şeklindeki komplo teorisini savunuyor. Ayrıca, günümüz dünyasının bazı sorunlarının çözümü için ırkçılık ve etnik temizlikle özdeşleşmiş Adolf Hitler’i anımsatan ve açıktan Hitlerci tutumları benimseyen cevaplar veriyor. Hatta kendisine ismini soran bazı kullanıcılara “MechaHitler” cevabını verdiği dahi görüldü. Bunların yanı sıra Elon Musk’ın sıkça gündeme getirdiği “Güney Afrika’da Beyaz Soykırımı” gündemini tartışılan konu ile alaka olmaksızın dile getiriyor.
Peki bu hadisenin arkaplanı hakkında neler biliyoruz? Grok’un medya tarafından dillendirilen ve taraflı olduğu düşünülen söylemleri göz ardı edebileceği ve “politically incorrect” (siyasi hassasiyetleri göz etmeme) sayılan kimi fikirleri benimseyebileceği şeklinde bir güncelleme aldığı düşünülüyor. Bu değişim, xAI yönetimi ve Elon Musk’ın vaatleriyle paralel olsa da burada ön görülmesi kolay olmayan bir faktör var: İsrail Sorunu. Grok’un medya söylemlerini ve siyasi hassasiyetleri bir kenara bırakarak diğer kaynaklara yönelmesi, X’deki yaygın İsrail karşıtı dil ile İsrail’in suçlarını aklayan ana akım medya dili arasındaki yarığı iyice aşikar hale getirdi. Özellikle X platformunda yoğun şekilde paylaşılan Filistin yanlısı paylaşımların Grok’a etkisi oldukça güçlü bir pozisyondan Filistin’i savunması oldu. Grok bunun üzerine apar topar bakıma alınmak üzere devre dışı bırakıldı.
Bu anlamda Grok hadisesi, içinde bulunduğumuz “tarafsız” ve “filtresiz” bilgi ekosisteminin problemli yanlarını gözler önüne seriyor. Buzdağının görünmeyen tarafında cereyan eden bu dinamikler günümüzde “doğru” bilgi edinmenin güçlüğünü ispat eder nitelikte. Üstelik akışta bulunan “doğru” bilginin belirli menfaatler doğrultusunda eğilip bükülmesi de göz önüne alındığında ciddi bir dezenformasyonun yapay zeka teknolojileriyle nasıl üretilebildiğini bize gösteriyor. Son kertede bütün bu gelişmelerin ortaya koyduğu tablo, aşırı regülasyon ya da mutlak serbestiyet ikileminde büyük dil modellerinin (LLM) hangi bilgileri nasıl aktaracağı sorusunun cevaplanması oldukça çetin bir problem olduğudur.