Kelimelerin Arasındaki Görünmez İmza
Yapay zeka tarafından üretilen içeriklerin nasıl ayırt edileceği, uzun süredir etik tartışmaların ve akademik çalışmaların merkezindeydi. Ekim ayının ilk haftasında bu soru, çok daha somut bir gerekçeyle yeniden gündeme taşındı. OpenAI, Avrupa Birliği'ndeki kullanıcıların ChatGPT ve Codex ile ürettiği metinlere görünmez bir filigran eklemeye başlayacağını bir blog yazısıyla duyurdu. Teknoloji basınında haber AB'nin yapay zekaya bir yaka kartı taktırdığı benzetmesiyle karşılandı. Kararın arkasında şirketin kendi tercihinden çok, 2 Ağustos’ta yürürlüğe giren AB Yapay Zeka Yasası’nın şeffaflık kuralları bulunuyor. Bu kurallar, yapay zeka şirketlerinden ürettikleri içeriği başka sistemlerin tanıyabileceği şekilde işaretlemelerini talep ediyor.
Ne var ki bu yaka kartı kimsenin göremeyeceği bir kart. Filigran bir logo ya da metnin altına düşülmüş bir not değil, metnin dokusuna işlenmiş bir örüntü. textGrain adı verilen yöntem, modelin kelime seçimlerini gizli bir anahtar yardımıyla fark edilmeyecek ölçüde yönlendiriyor. Tek bir cümlede hiçbir anlam taşımayan bu küçük yönelimler, yüzlerce kelime boyunca biriktiğinde bir dedektörün yalnızca metne ve anahtara bakarak tanıyabileceği bir iz bırakıyor. University of Pennsylvania ve Yale’den araştırmacılarla birlikte hazırlanan teknik rapora göre iz kelimelerin içinde yaşadığı için metin kopyalanıp başka bir yere yapıştırıldığında da kaybolmuyor.
Uygulamanın coğrafyası da dikkat çekici. Filigran önümüzdeki haftalarda tüm abonelik planlarındaki uygun kullanıcılara, ancak yalnızca AB’de açılacak. Dünyanın geri kalanındaki geliştiriciler bu özelliği API üzerinden isteğe bağlı olarak etkinleştirebilecek, dolayısıyla varsayılan ayar olarak kapalı. Bu tablo, Brüksel Etkisinin sahadaki yansıması olarak okunabilir. AB kuralı koyuyor, şirketler uyuyor, ve kural Birlik sınırlarında duruyor. Aynı modelin ürettiği metin Paris’te işaretli, İstanbul’da işaretsiz olarak dolaşıma giriyor. Bir metnin “kökeni” böylece metnin kendisinden değil, üretildiği yerin hukukundan türeyen bir özelliğe dönüşüyor.
Zamanlama rekabetin dinamiklerini de gösteriyor. Anthropic iki ay önce Claude'un ürettiği metinleri dünya genelinde filigranlayacağını açıklamış ve bu karar bazı kullanıcıların tepkisini çekmişti. OpenAI'ın benzer bir teknolojiyi uzun süredir elinde tuttuğu da biliniyor. Wall Street Journal 2024'te şirketin filigranı hazır olmasına rağmen, kullanıcıların filigran uygulamayan rakiplere geçme ihtimali gibi çekincelerle piyasaya sürmediğini aktarmıştı. Şeffaflık, şirketler için gönüllü bir erdemden çok, rakiplerin de aynı yükü taşıdığı ölçüde üstlenilebilen bir maliyet görünümünde.
Teknolojinin sınırları ise şirketin kendi raporunda açıkça yer alıyor. Testlerde kelimelerin yalnızca yüzde 10’unun eş anlamlılarıyla değiştirilmesi, tespit oranını yaklaşık yüzde 92’den yüzde 66’ya düşürüyor. Kısa metinler, matematik cevapları ve çeviriler de tespiti zorlaştırıyor. Bu yüzden dedektöre erişim ilk aşamada onaylı araştırmacılar ve uzman kuruluşlarla sınırlı. Şirketin belki de en önemli uyarısı, filigranın yokluğunun metnin bir insan tarafından yazıldığını kanıtlamadığı. OpenAI'a göre filigran, bir pasajın bir kısmının kendi sistemiyle üretildiğine işaret edebiliyor. Fakat o metne ne kadar insan muhakemesi, emeği ve yaratıcılığı katıldığı hakkında hiçbir şey söylemiyor.
İmzanın İşlevi
Bu son uyarı meseleyi mühendislikten biraz felsefeye taşıyor. Zira filigran aslında eski bir sorunun yeni bir cevabı olma iddiasında: Bir metin kime aittir? Roland Barthes 1967'de “Yazarın Ölümü”nü ilan ettiğinde, metnin anlamının yazarın niyetinde değil okurun karşılaşmasında doğduğunu savunuyordu. İki yıl sonra Michel Foucault “Yazar nedir?” sorusunu sorarken yazarı bir kişiden çok bir işlev olarak tarif eder. Metinleri sınıflandırmaya, sorumluluk atfetmeye ve gerektiğinde cezalandırmaya yarayan toplumsal bir mekanizmadır yazı işlevi. Filigran tam da bu ikinci anlamda bir yazar işlevi kuruyor. Ancak bu kez işaretlenen şey bir insan değil, bir üretim sürecinin kendisi. Metnin altında bir isim olmasa da kelimelerin dizilişinin bir menbaı olduğu ifade ediliyor.
Jacques Derrida'nın imza üzerine düşünceleri bu noktada daha da öğretici. Derrida’ya göre bir imzanın işlemesi için tekrarlanabilir olması gerekir ama tekrarlanabilen her şey, sahibinden koparılabilir, taklit edilebilir, başka bağlamlara taşınabilir. Filigran da aynı paradoksu taşıyor. Kelimelerin içine yerleştiği için kopyalanınca metinle birlikte yolculuk eder, ama yine kelimelerin içinde olduğu için kelimeler değiştikçe aşınır. Kelimelerin onda birini değiştirdiğimizde filigranın izinin silikleştirdiği bir dünyada, Theseus'un gemisi sorusu yeniden karşımıza çıkar. Tahtaları birer birer değiştirilen gemi hangi noktada başka bir gemi olur? Hangi oranda düzeltme, bir makine metnini insan metnine dönüştürür? Yani makinenin ürettiği metne yapılan insan müdahalesi hangi noktada onu insan izi haline getirir?
Anthropic kararına tepki gösteren kullanıcıların itirazı da bu kavramsal boşlukta yer alıyor. Talimatı, bağlamı ve kararları kendilerinin verdiğini, modelin yalnızca bir araç olduğunu söyleyen kullanıcılar aslında çekiç örneğini hatırlatıyor. Araç, iyi çalıştığı sürece görünmez oluverir, dikkat edilen şey çekiç değil, çakılan çividir. Filigran ise aracı görünür kılan, çekici çivinin üzerine kazıyan bir müdahale olarak belirmektedir. Sorun şu ki üretken yapay zeka klasik anlamda bir çekiç değil, bir daktilonun aksine cümleyi kurgulayan, kelimeyi seçen bir araç. “Araç mı, ortak mı?” sorusu cevaplanmadan, filigranın neyi işaretlediği de belirsiz kalıyor.
Belki de en eski referans noktası Platon'un Phaidros'u. Orada yazı, hem hafızaya ilaç hem de zehir olarak tarif edilir ve yazılı sözün bir zaafı vurgulanır. Kendisine soru sorulduğunda cevap veremez, onu savunacak müellife ihtiyaç duyar. Yapay zeka metinleri, müellifi belirsiz yazının en uç örnekleridir. Filigran bu müellifsiz metinlere bir soy kütüğü vermeye çalışmaktadır.
Anthropic, Google, Meta, Microsoft ve OpenAI'ın da aralarında bulunduğu şirketler, AB'nin yapay zeka üretimi içeriklere dair uygulama kurallarına uyma taahhüdünde bulundu. Filigranın küresel bir norma dönüşüp dönüşmeyeceğini ise teknolojinin kendisinden çok düzenleyicilerin kararlılığı ve şirketlerin birbirine bakarak attığı adımlar belirleyecek gibi görünüyor. Ancak asıl mesele, kimin hangi metni ürettiğini tespit etmekten öte, insan ile makine arasındaki ortaklığın hangi noktada yazarlık sayılacağına dair toplumsal bir uzlaşı kurabilmek. Kelimelerin arasına gizlenen imza, bu uzlaşının yerine geçemese de uzlaşının ne kadar acil olduğunu hatırlatıyor.
Yazının Otomasyonu
Bir sabah uyandığımızda dünyadaki bütün yazılı kaynakların, mürekkebin klavyelerin ve dijital harflerin silindiğini varsayalım. Hayatımızın geri kalanını yalnızca sözlü dil ile sürdürseydik düşünce dünyamızda ve kavramsallaştırma biçimimizde dikkate değer bir değişim yaşanır mıydı? Kaybolan harflerle birlikte geçmişimiz ve geleceğe yönelik düşüncelerimiz de silinip gidenler arasına karışır mıydı?
Bu sorular, çeşitli akademik çalışmalar ve edebiyat eserlerinde sık sık ele alınmıştır. Özellikle literatürde önemli bir yer tutan Walter Ong’un Sözlü ve Yazılı Kültür çalışmasının gösterdiği gibi yazı, insan zihnine sonradan eklenmiş en radikal zihinsel teknolojidir. Yazı, tekhne teriminin örneği olarak üretken bir zanaattır. Sözlü kültürde geçici olduğu görülen düşüncelerin somutlaşıp nesneleştiği imkan yazıdadır. Peki zihnimizde dönen düğümlenmiş düşünce yumaklarını yazı ile çözmek ne kadar mümkün? Yazımızın sınırları düşüncemizin de sınırları mıdır?
Bilişsel bilimler felsefesi çalışan Dr. Joe Cruz’un geçtiğimiz günlerde New York Times’ta yayımlanan Yazmak Sandığımız Kadar Önemli Değil başlıklı yazısı, özellikle üniversite pedagojisinde ve entelektüel gelenekte ilksel yazı teknolojisinin en gelişkin konumundaki büyük dil modellerine dair tartışmalar yarattı. Yazının temel iddiası, düşünmek ile yazmanın müstakil mefhumlar olduğuna dayanıyordu. Dolayısıyla yazı, insan düşüncesini bütünüyle yansıtan işaretler sistemi olmaktan uzaktı. Akademik eğitimde yazılı ödevler, yazılı sınavlar, yazı örneklerine göre değerlendirilen yeterlilikler; kişilerin düşünce dünyasını ölçme araçları olarak tezahür etmesine karşın, yapay zeka ile birlikte yazı yazma külfetinden kurtulmak düşünmeye daha fazla alan açabilecek bir imkan olarak değerlendirildi. Metinde de bahsedildiği üzere bu argüman, yazılı kaynaklardan görebildiğimiz üzere milattan öncesine dayanıyor. Tarihin bir ironisidir ki, mevzubahis yazı karşıtı argümana bugün yazı sayesinde atıf yapıyoruz.
Platon’un Sokrates ve Phaedrus arasında geçen diyaloğunda yazıya dair anlatılan mühim bir anekdot, tam da bahsettiğimiz noktaya işaret ediyor. Anlatıda Mısır Tanrısı Theuth yeni bir buluş olarak yazı sanatını Kral Thamus'a sunar ve yazının insanlara hafıza ve bilgelik kazandıracağını söyler. Kral Thamus ise yazının hafızayı zayıflatacağını, insanların kendi akıllarıyla hatırlamak yerine dışsal işaretlere güveneceğini savunarak yazıyı yararsız bulur. Kral Thamus, yazının hakikati değil onun görüntüsünü sunduğu eleştirerek onu hafızanın ilacı değil hatırlamanın ilacı olarak değerlendirir (275a). Bugün benzer gerekçelerle benzer bir soruyu, yapay zeka araçlarının bizim yerimize yazmayı üstlenmesi hususunda tartışıyoruz.
Bizim için olduğu kadar dil modelleri için de yazının yeri çok önemli. Nihayetinde, yapay zeka modellerinin nöral ağların taklidiyle metin üretme kapasitesini geliştirmesi, kamusal alanda görünürlüklerini arttıran en önemli unsurlardan biri olarak öne çıktı. Modellerin yazılı dili kullanabilme yetisi, barındırdığı potansiyele dair toplumsal bir kabul uyandırması bakımından da önemli bir yer tutuyor. Ancak bu potansiyelin bilfiil eğitimde kullanılması yoğun tepkilere de kaynaklık ediyor. Özellikle eğitim camiasında yazılı ödevler üzerinde sıkı bir yapay zeka denetimi çalışmaları yürütülüyor. Yapay zeka tespit yazılımları, süreç takip eden denetim uygulamaları, sözlü savunmalar gibi çeşitli tekniklerle yazıda insan dilinin korunmasına yönelik önlemler alınıyor. Öte yandan, “insanlaştırıcı” yapay zeka yazılımları da yapay zekanın standart sentaksını bozarak bu çabaya karşı ilginç bir kapı aralıyor.
Bireyin kendi düşüncelerini dışavurmak için kullandığı yazı kamusal alandaki itibarı ile önemli bir potansiyel barındırıyor. Geleneksel anlamda sözlü hitap fiziksel faktörler dolayısıyla alanını sınırlarken, yazı taşınabilirliği bakımından coğrafyaları aşarak evrensel bir kamuoyuna hitap edebiliyor. Modern makineler ve dijital pratiklerle bu hiyerarşi farklı görünümlerde geçerliliğini korumasa da yazı bürokratik izlenebilirlik ve ifade özgürlüğü hattında bireysel ve toplumsal önemini koruyor. Sözlü kültürde oluşan tek taraflı konuşmaya karşı, yazının potansiyeli çoğunluğa açıktır. Yazılanın tekrar okunabilir, incelenebilir, eleştirilebilir olması daha somut ve kalıcı bir imkan sunar. Yazının sahip olduğu bu gücü yapay zekanın kodlarına teslim edersek ne olur?
Dr. Joe Cruz’a göre yalnızca büyük bir yükten kurtuluruz. Yazı teknikleri, kayda geçirme yöntemi olarak bir çeşit arşivelemedir ve düşünme ile birbirine karıştırılmamalıdır. Yazılı ödevler, metinler, makaleler eğitimde ölçme ve değerlendirme süreçlerinde sağladığı idari kolaylıklardan dolayı tercih edilir. Aksine fikirlerin oluşması ve sınanmasını ölçmek için canlı diyaloglar, sözlü tartışmalar ve sokratik sorgulamalar gerekir. Bu bakımdan yapay zekanın saniyeler içerisinde bütün yazılanları derlemesi, kapsamlı özet çıkarma kabiliyetleri mekanik angaryadan kurtulmayı kolaştırır. Eğitimde prosedür süreçlerine harcanan zamanının hakiki düşünce faaliyetine harcanmasını sağlar.
Cruz’un iddiası bir yana, düşünme faaliyeti yargılamaları sınama faaliyetini de kapsayan geniş bir işlemler bütünüdür. Fikirlerdeki akıl yürütmenin ve doğruluk yargılarının takip edilmesi yazı ile kolaylaşır. Zihinde karmaşık biçimde süzülen yargılar yazıya döküldüğünde somutlaşarak mantık süreçleri görünür olur. Böylelikle yargı yetisi kolaylıkla yeniden yapılandırmaya müsait hale gelir. Bu yargı yetisi ve barındırdığı bilişsel yük, yapay zekanın ürettiği metinlere bağlı kalındığında yitirilebilir. Yazıya dökülerek ifade edilen bilişsel işleme ve yükün dil modellerine devredilmesi, metinle hesaplaşmak için süreci takip etmeden direkt sonuç ile muhatap olunur. Bu raddede, Kant’ın insanın kendi aklını kullanma cesareti olarak tanımladığı yerde, öznel yargı belirtmenin en somut eylemi algoritmalarla otomatize edilebilir.
Büyük dil modellerinin yazı üretme hızı bize bir zaman kazancı vaat etse de, içsel hesaplaşma zeminini kaybetme riskine karşı sokratik diyaloglar ve yazılı teknikler önemini yitirmez. Tekniklerin getirdiği zorluk, fikirleri olgunlaştırıcı bir dirençtir. Bu direncin ortadan kalkması yargılanmamış ve tekrarlayıcı düşüncelerle bizi başbaşa bırakabilir.