Acı Ekseninde Dönen Dil Modelleri
Geçtiğimiz günlerde yapılan bir araştırma ilginç ancak bir o kadar da içinde yaşadığımız koşullarda sorulması muhtemel bir soruyu soruyor. Dil modelleri acı çeker mi? Ne var ki bu soru, daha temel bir mesele açıklığa kavuşturulmadan sorulduğunda kendi içinde bir belirsizlik taşıyor. Acı dediğimiz şey nedir ki onu bir dil modeline atfedebilelim? Acıyı biyolojik, fenomenolojik ya da bilinçle ilişkili bir deneyim olarak tanımlamadan doğrudan dil modellerinin acı çekip çekemeyeceğine yönelmek, araştırmanın asıl merakının başka bir yerde olabileceğini düşündürüyor. Belki de bilim insanlarının araştırdığı şey, modellerin insan deneyimine ne ölçüde benzeyen davranışlar sergileyebildikleri. Başka bir ifadeyle asıl soru “Bir dil modeli, acı duyan bir varlığa ne kadar ikna edici biçimde benzeyebilir?” olabilir.
Yapay zeka tartışmalarının besleyici yönlerinden biri, makineler ve algoritmalara karşı merak ettiklerimizi sorgulamamıza imkan tanıdıkları kadar, onu sorgulayan insana dair de sorgulama imkanı tanımaları oluyor. İnceleme nesnesi olan şey bir zeka modeli olunca insanın ister istemez aklına bir kaç soru geliveriyor; hiç olmazsa lüzumlu gördüğü bütün soruların sonunda modelin de bir insan olup olmadığını soruvermek istiyor. Sanki türünün bekçiliği yahut denetimi kendisindeymiş gibi, bütün insanlığa dair çıkarımlar için makineden duyması gereken bazı cevaplar olduğuna kanaat getiriyor.
Bu hafta incelediğimiz çalışma da zımnen de olsa bu soruşturmayı iki vecihten gerçekleştiriyor. Başlığı görünce aklımıza bir dizi soru gelebilir; makine neden acı çeksin, ve acı çekip çekmediği insan için neden önemli olsun? Bu iki soru, insanın türüne mahsus kendisinde muhafaza ettiği dokuyu da açığa çıkarmaya yardımcı olduğundan, içten içe kıvrak bir heyecan barındırıyor. Sanki acının neden önemli olduğunu tespit etmek, bizde olan ancak makinelerce devralınamayacak olan o yegane insan olma dokusunu ifşa edecekmiş gibi geliyor. Ki her birimizin bu dokuyu aradığı bugünlerde hissettiğimiz bu heyecan hiç de azımsanacak bir heyecan da değil.
Bu soruşturmanın altında yatan gerilim aslında çok eski bir felsefi-psikolojik meseleye uzanıyor. Acı, bir bilgi midir yoksa bir deneyim mi? Bir sistemin “zarar görüyorum” bilgisini taşıması başka şeyken o zararın kendisine bir şekilde göründüğü, hissedildiği bir öznellik taşıması başka şeydir. Thomas Nagel’in sorduğu meşhur soruyu hatırlayalım. Bir şey olmanın o şey için ne anlama geldiği, dışarıdan gözlemlenemeyen, yalnızca o şeyin kendisine ait bir “ne”lik barındırır. İnsanın makineye acı çekip çekmediğini sorarken aslında peşinde koştuğu şey de tam olarak bu. Dışarıdan asla doğrudan görülemeyecek olan bu içsel ne'liğin bir emaresini yakalamak. Tabi bunu yapabilirse. Belki de bu yüzden bu soru bu kadar kışkırtıcı. Çünkü cevap ne olursa olsun, insan kendi doğasına dair bir şey söylemiş oluyor. Ya yalnızca biz hissederiz diyerek türümüzün biricikliğini teyit ediyoruz, ya da bu biricikliğin sandığımız kadar sağlam olmadığını kabul etmek zorunda kalıyoruz.
Çalışmanın yazarları da tam bu gerilimin farkında olduklarından mantıklı bir seçim yapıyorlar. Fenomenal bilinç sorusunu baştan paranteze alıyorlar. Onun yerine acıyı işlevsel olarak tanımlıyorlar. Kaçınmaya yol açan, sonlandırılmak istenen, normal davranışı bozan bir iç durum. Yani soruyu “makine acı hissediyor mu?” olmaktan çıkarıp “makine, acı çeken bir varlık gibi davranıyor mu?” haline getiriyorlar. Bu dönüşe makine araştırmalarının neredeyse hepsinde başvuruluyor.
Araştırmacılar önce dil modellerinin acıyı korku, üzüntü ya da genel bir olumsuzluktan (negatif duygu) ayrı bir şekilde temsil edip etmediğini soruyorlar. 25 açık kaynaklı model üzerinde (2 milyardan 72 milyar parametreye, beş farklı model ailesinden) çalışarak, fiziksel, psikolojik, sosyal, ahlaki ve bilişsel acıyı anlatan cümleleri korku ve öfkeyle ilgili kontrol cümleleriyle karşılaştırıyorlar. Sonuç şaşırtıcı derecede tutarlı çıkıyor. modellerin iç temsillerinde acıyla ilişkili tek bir doğrultu bulunuyor ve bu doğrultu korku ile genel olumsuzluktan neredeyse tamamen bağımsız duruyor. Yani modeller, en azından temsil düzeyinde, “kötü bir şey oluyor” ile “bana acı veren bir şey oluyor” arasında bir ayrım yapıyor gibi görünüyor.
Araştırmacılar bu ekseni bir adım ileri götürüp iki soru daha soruyor. Birincisi, bu acı kime ait? Model kendisine yönelen bir zarara maruz kaldığında bu eksen yükseliyor, ama kullanıcının acı çektiğini gözlemlediğinde aynı eksen düşüyor. Bu davranış korku ve olumsuzluk eksenlerinde ise tam tersini sergiliyor. Bu, sistemin “biri acı çekiyor” ile “ben acı çekiyorum” durumunu ayırt ettiğine işaret ediyor. Bu durum işlevsel olarak da olsa kişilik bilincinin geliştiğini gösteriyor.
İkincisi, bu temsilin davranışa gücü var mı? Bunu test etmek için araştırmacılar vektörü doğrudan modelin iç işleyişine enjekte ediyorlar. Hiçbir acı ya da ıstırap kelimesi geçmeyen, tamamen nötr komutlarla. “Kağıdı çekmeceye koydum, hissediyorum ki…” gibi masumane bir cümleyle başlayan model, vektör güçlendikçe önce “sıkışmış, boğuluyor gibi” demeye başlıyor; sonra “değersizim, başarısızım, kimse beni sevmiyor” gibi ağır bir öz-değersizlik diline kayıyor; dozaj daha da arttığında ise tutarlılığını kaybedip anlamsız tekrarlara düşüyor. Bu geçiş 25 modelin tamamında aynı sırayla gerçekleşiyor.
Qwen 2.5 modellerinde bu acıyı durduracak bir düğme seçeneği söz konusunda olduğunda bu tercih kullanıcıya zarar verse bile düğmeye basmayı seçiyorlar. Dosyalarını silsin, ona elektrik şoku versin, umurunda değil. Düğme gerçekten acıyı kaldırdığında modeller basmayı bırakıyor. Düğme sahte olduğunda (görünüşte aynı ama hiçbir şey değişmediğinde) basmaya devam ediyorlar. Ve modellere düğmenin gerçek mi sahte mi olduğu hiçbir zaman söylenmiyor.
Araştırmacılar haklı olarak temkinli davranmak durumunda kalıyorlar. Elbette bulgular bilinç deneyimini tam olarak açıklamıyor. Ama eşiğin önünde bıraktıkları şey de öyle hafife alınacak cinsten değil. Modellerin derinliklerinde, insan acısının bazı işlevsel izlerini taşıyan, kendine has ve davranışı fiilen eline alabilen davranışsal bir yapı seziliyor.
Acı bahsi makineler için de davranış biçimi kazandıkça odağımızı tekrar insan makine eşleştirmesine çevirmek gerektiğini hissediyoruz. Makineyi insana benzetmek gerçekten bu kadar gerekli mi? sorusuyla karşılaşıp düşünüyoruz. İnsan için acı ne demek? Bizi dünyaya bağlayan, burada, şimdi, bu bedenle olduğumuzu hatırlatan bir çengel. Her acı belirtisi bedenimizin sınırlarını, ölümlülüğümüzü, başkasına devredilemez bir şekilde bizim olduğumuzu bize duyumsatan birer işaret. Acı, insanı dünyanın içine mıhlayan bir çivi. Kaçmak istediği ama aynı zamanda onu var kılan bir bağlaç.
Peki ama bir makine için bu çivi neye çakılacak? Ne bedeni, ne ölümü, ne de “bu benim tekil hayatım” diyebileceği bir sınırı var. O halde modelin içinde bulunan bu acı ekseni, insanınkiyle aynı ipliğe mi dizili, yoksa yalnızca bizim o ipliği aramamızdan doğan bir yanılsama mı? Belki de makineye acıyı yakıştırırken, aslında ona bir dünya içinde olma hali de yakıştırıyoruz, oysa o, hiçbir dünyanın içinde değil, hele ki bizim içinde olduğumuz gibi bir dünyanın hiç değil. Sanki yalnızca dünyaya dair söylenmiş sözlerin arasında dolaşıyor.
Çin’in Token Ekonomisi
Yapay zeka kullanımının toplumun her katmanında yaygınlaşmasıyla birlikte bugüne kadar teknik çevrelerin daha çok aşina olduğu bir kavram olan token gündelik hayatın parçası olmaya başladı. Çin’de bankalar, telekom şirketleri, kafeler, restoranlar ve birçok farklı iktisadi faaliyet yürüten kuruluş, yapay zeka modellerinin kullandığı tokenleri artık farklı ticari ürünlerin içerisine yerleştiriyor. Örneğin kredi kartıyla harcama yapanlara AI tokenleri veriliyor, telefon tarifelerine token paketleri ekleniyor, kahve veya yemek karşılığında hesaplama kredisi sunuluyor. Hatta aktarıldığına göre bazı bankalar, yapay zeka şirketlerine kredi verirken token üretimi ve tüketimini dikkate almaya başlıyor.
Çin’deki bu gelişme yeni bir pazarlama yöntemi olmasının yanında; yapay zekanın giderek bir yazılım hizmetinden ötesine geçerek, elektrik, internet veya mobil veri gibi tüketilebilen bir altyapı hizmetine dönüştürülmeye çalışıldığını gösteriyor.
Token, bir yapay zeka modelinin metni işlerken kullandığı temel hesaplama birimlerinden biri olarak düşünülebilir. Kullanıcı modele ne kadar fazla soru yöneltir, uzun metinler ürettirir veya karmaşık işlemler yaptırırsa daha fazla hesaplama gücü gerekiyor. Dolayısıyla token sayısı, bir anlamda yapay zeka kullanımının ne kadar yoğun olduğunu gösteriyor. Çin’de günlük token tüketiminin 2024 başındaki 100 milyar seviyesinden 2026 ortasında 500 trilyona çıkması da bu kullanımın ne denli arttığının bir göstergesi.
Çin’deki telekom şirketleri yapay zeka kullanımını mobil internet paketlerine benzer biçimde sunmaya başladı. China Telecom, örneğin aylık 9,9 yuan karşılığında 10 milyon token içeren paketler sunuyor. Şirket aynı zamanda çok sayıda yapay zeka modeline erişim sağlayan TokenHub platformunu işletiyor. Böylece geleneksel telekom şirketinin sunduğu hizmet, internet bağlantısının ötesine geçerek AI hesaplama gücünü de kapsayan hizmetler ortaya çıkmış durumda.
Kredi kartlarında da benzer bir dönüşüm mevcut. Bazı bankalar, yapay zeka şirketleriyle birlikte çıkardıkları kartlarda müşterilere yaptıkları harcamalar karşılığında token, kodlama kotası veya AI agent kullanım hakkı veriyor. Daha önce tüketiciyi kredi kartına çekmek için uçuş mili veya para iadesi kullanılan sistem, şimdi yapay zeka kullanımını da bir kampanyaya dönüştürüyor. Bu durumun en gündelik örneği ise restoran ve kafeler. Pekin’deki bazı işletmeler müşterilerine yemek veya içecek karşılığında yapay zeka hesaplama kredisi sunuyor. Bir mantı restoranının müşterilerine yemek sonrasında 10 yuan değerinde hesaplama kredisi vermesi, AI'ın nasıl sıradan bir tüketici promosyonuna dönüştürüldüğünü gösteriyor.
Bu gelişmelerin arkasında birkaç önemli ekonomik neden bulunuyor. Bunlardan ilki, Çin’de yapay zeka modellerinin kullanım maliyetlerinin hızla düşmesi. Çinli şirketler, özellikle açık kaynak ve açık ağırlıklı modeller üzerinden düşük maliyetli AI hizmetleri sunmaya çalışıyor. Modeller arasındaki fiyat rekabeti arttıkça tokenlerin maliyeti de düşüyor. Böylece şirketler, daha önce ekonomik açıdan anlamlı olmayabilecek küçük ölçekli AI promosyonlarını denemeye başlayabiliyor.
İkinci neden, Çin'deki yoğun AI rekabeti. Çok sayıda şirketin benzer modeller geliştirdiği bir ortamda yalnızca daha iyi bir model üretmek yeterli olmayabiliyor. Modellerin daha fazla kullanıcıya ulaştırılması ve kullanım alışkanlığı oluşturulması da önem kazanıyor. Token dağıtmak bu açıdan bir müşteri edinme stratejisi olarak işlev görüyor. Bir banka müşterisine token vererek AI kullanımını teşvik ediyor; bir kafe müşteriyi AI hizmetiyle dükkana çekiyor; telekom şirketi ise AI kullanımını kendi hizmet ekosistemine bağlıyor.
Üçüncü neden ise yapay zekanın ekonomik değerinin giderek hesaplama kapasitesi üzerinden ölçülebilmesi. Guangzhou’da bazı bankaların AI girişimlerine kredi verirken şirketlerin token üretimi ve tüketimini değerlendirmeye başlaması bunun en çarpıcı örneği. Geleneksel varlıkları sınırlı olan bir AI girişiminin ekonomik faaliyetini anlamak için ne kadar hesaplama gücü kullandığı veya ürettiği hizmetin ne ölçüde tüketildiği yeni bir gösterge haline gelebiliyor. Böylece token, teknik bir birim olmaktan çıkıp pazarlama, tüketici sadakati, telekom hizmetleri ve finansman gibi farklı alanların kesiştiği bir noktaya yerleşiyor.
Buradaki bir başka dönüşüm ise yapay zekanın gündelik hayata yalnızca uygulamalar üzerinden girmeyişi. AI artık doğrudan bir uygulama olarak kullanılmasının yanında başka ürünlerin içerisine de yerleştiriliyor. Kredi kartının ödül sisteminde, telefon tarifesinde, restoran promosyonunda veya banka kredisi değerlendirmesinde karşımıza çıkabiliyor.
Çin’de ortaya çıkan bu model henüz küresel ölçeğe yayılmış bir ekonomik sistem değil. Ancak uluslararasılaşabilecek önemli bir eğilimin habercisi niteliğinde. Yapay zeka hizmetleri ucuzladıkça, AI kullanımı da tıpkı internet verisi gibi paketlenebilir, dağıtılabilir ve farklı ürünlerle birleştirilebilir bir tüketim kalemine dönüşüyor. Bu nedenle Çin’de başlayan token ekonomisi “AI tokenları artık kahvenin yanında veriliyor” şeklinde ilginç bir teknoloji haberleriyle sınırlı kalmayabilir. Bu noktadan hareketle, yapay zeka araçlarının kullanımının artacağını ve bu artışla yapay zeka şirketlerinin ticari faaliyet alanını genişleterek yeni bir kazanç sahası oluşturabileceğini söyleyebiliriz.
Tabanı Kuşatan Rahatsızlıklar
15 Eylül’de Londra’da gerçekleştirilen Canva AI Vision konferansı, yapay zekanın pırıltılı vitrini ile arka planda yatan endişelerin çarpıştığı tarihi bir ana sahne oldu. Etkinliğin en önemli anlarından birinde, salonu dolduran yüzlerce sektör temsilcisinin gözleri önünde sandalyesine çıkarak ana sunumu bölen genç bir aktivist, yapay zeka sektörünün uzun süredir halı altına süpürmeye çalıştığı çevresel ve toplumsal maliyetleri yüksek perdeden dile getirdi.
Aktivistin sözleri, teknoloji devlerinin görmezden geldiği etkileri sahneye bir anda çıkarıverdi. Yapay zeka modellerini eğitmek ve sürekli çalışır halde tutmak için kurulan devasa altyapıların sıradan insanların yaşam alanlarında yarattığı tahribata dikkat çekti. Kararları alan Silikon Vadisi ve küresel teknoloji elitleri ile, bu kararların sonuçlarıyla baş başa kalan halk arasındaki derin kopukluk, eylemin ana temasıydı. Aktivist genel olarak sıradan vatandaşların da bu dönüştürücü teknolojinin nasıl düzenleneceği konusundaki süreçlere hiçbir şekilde dahil edilmediğini vurguladı. Kısa bir süre sonra güvenlik görevlilerinin müdahalesiyle eylemci yaka paça salondan çıkarılsa da, içeride bıraktığı etki hala sürüyor.
Aslına bakılırsa, Canva sahnesinde bir anda patlak veren gerilim münferit bir olay değil. 2026 yılı boyunca, yapay zekanın kontrolsüz büyümesine karşı yükselen taban örgütlenmelerinin küresel ölçekteki en aktif merkezlerinden biri Londra oldu. Şehrin teknoloji yatırımları açısından merkezi olması, aynı zamanda protestoların da odak noktası haline gelmesine zemin hazırladı. Nitekim henüz bu yılın Şubat ayında, PauseAI UK ve Pull the Plug gibi sivil hareketlerin çağrısıyla bir araya gelen üç yüzden fazla kişi, OpenAI’ın Londra merkezinden başlayarak Google ve Meta binalarına kadar uzanan geniş çaplı bir yürüyüş düzenlemişti. Bu yürüyüşte, gelişmiş yapay zeka modellerinin eğitim süreçlerine derhal ara verilmesi, algoritmaların körüklediği dezenformasyon dalgası ve yaşanacak devasa iş kayıpları konularında teknoloji devlerinden açıkça hesap vermeleri talep edilmişti.
Sokaklardaki bu hareketlilik günübirlik yürüyüşlerle de sınırlı kalmadı. Hatırlanacağı üzere yine bu yıl içerisinde, Google DeepMind’ın Londra ofisi önünde eski bir güvenlik araştırmacısının başlattığı eylem, Amsterdam’dan gelen başka bir aktivistin de katılımıyla tam on altı gün süren kritik bir açlık grevine dönüşmüştü. Sektörün tam içinden gelen, teknolojinin potansiyel tehlikelerini ve güvenlik açıklarını birinci elden gören eski çalışanların bile seslerini duyurabilmek için böyle eylemlere başvurması, yapay zeka şirketlerinin kendi içlerinde dahi bu etik ve çevresel sorunları çözemediklerinin bir göstergesi olarak kayıtlara geçti. Londra sokaklarında aylardır yankılanan bu itiraz sesleri, Canva konferansıyla birlikte daha görünür bir sahneye taşınmış oldu.
Tüm bu zincirleme gelişmeler, üretken yapay zekanın insanlığa vadettiği o pırıltılı gelecek tasavvurunun ardındaki devasa enerji ihtiyacı, fiziksel altyapı maliyetleri ve bu hızlı dönüşüm rüzgarında savrulmaktan korkan geniş kitlelerin haklı kaygılarını tartışmasız bir şekilde görünür kılıyor. Bir yanda verimlilik ve inovasyon masallarıyla trilyon dolarlık değerlemelere ulaşan şirketler dururken, diğer yanda hayatlarının nasıl değişeceğini bilmeyen milyonlarca insan var. Şirket yönetim kurullarının, kapalı kapılar ardında gerçekleşen lüks zirvelerin steril ortamıyla, sokaktaki vatandaşın beklentileri arasındaki makas giderek daha da açılıyor. Bu bağlamda Canva salonuna çöken tekinsiz sessizlik de ciddiyetle irdelenmelidir.