Ne Doğru Ne Yanlış?
Bilgi çağının temel sorunlarından biri, artan bilgi miktarı dolayısıyla neyin sahih neyin hatalı olduğuna karar vermenin giderek zorlaşmasıdır. Ancak bu zorluk yalnızca günümüze ait değildir. Bilginin doğruluğunu kimin güvence altına alacağı sorusu, tarih boyunca yanıt bekleyen netameli bir mesele olagelmiştir. Yapay zekanın revaçta olduğu günümüzde de hayati önemini koruyan bilginin doğruluğu meselesi, yalnız doğruluk ekseninde kalmayıp beraberinde bir dizi sorun da getirmektedir.
Birinci Dünya Savaşı sırasında İngiliz hükümeti, gıda kıtlığıyla başa çıkabilmek için halkı ışgın (rhubarb) bitkisine yönlendirmişti. Ancak bu bitkinin yaprakları zehirliydi. Buna rağmen hükümet kanalıyla dağıtılan broşürler ve yönlendirmeler, halkın bu bilgiyi mutlak doğru kabul etmesine neden oldu.
Bu hadise bilgi kaynakları ve doğru kabullerimiz hakkında bize bazı ipuçları vermektedir. Güvenilirlik, resmi mühürle taşınmış, halk kitlesi düşünsel yükü otoriteye devretmiş ve zaten kriz dönemi söz konusu olduğu için alternatif sorgulamaların önü kapanmıştır. Üstelik benzer bir durumun İkinci Dünya Savaşında da yaşanması, dezenformasyonun nasıl ikinci kez aynı soruna sebebiyet verebileceğini göstermiştir.
Işgın bitkisi örneğinde alternatif bir senaryoyu, halkın şüphe duyması ve bitkiyi tüketmekten vazgeçmesi yoluyla inşa edebilirdik. Ancak tarihsel gerçeklikte şüphe duymak yerine dağıtılan broşürlere güvenmek daha baskın geldi. Zira savaş gibi bir kriz döneminde neden broşürlere güvenilmesindi ki? İşte bu soru bugün, şüphe imkanlarını tükettiğimiz yapay zeka döneminde, neden sohbet robotlarının cevaplarına güvenilmesin ki şeklinde güncellenebilir duruyor.
Benzer bir epistemik kırılganlığın, sohbet robotları ve yapay zeka kullanımında kendini gösterdiğini söylemek mümkün. İnsanlar, geleneksel arama yöntemlerini uğraştırıcı buldukları için sohbet robotlarını birer arama motoruymuş gibi kullanma eğilimi gösteriyor. Tek bir kanaldan, alternatifsiz, sanki sorunun tek cevabıymış gibi ekranda beliren cevap da şüphe imkanını dışlayarak sahih bilgi görünümü pek çok insanı cezbediyor. Hal böyleyken ışgın önerisi yapan broşür bir anda ışgın önerebilecek sohbet robotu haline gelebiliyor.
Oysa arama motorları da algoritmik sistemlerle bazı verileri perdeleme riski taşısalar da, en azından bir cevap seçkisi sunmaları dolayısıyla sohbet robotlarından ayrışıyorlar. Bir diğer fark da arama motorlarının kısmi olarak kullanıcıların aradığı kelimelerin internet sitelerindeki bulunma oranına ve teknik eşleşmesine dayalı çalışması. Sohbet robotları ise eğitildikleri devasa veri setleri içerisinden birbiri ardına gelen kelimelerin istatistiksel olasılığını hesaplayarak çalışıyor. Yani sistem, bilginin doğruluğunu değil de kelimelerin yan yana gelme ihtimalini baz alıyor.
“Sohbet robotlarının zaman zaman hatalı yönlendiren arama motorlarından ne farkı var?” sorusu akla gelebilir. Bu soruya bir kaç farklı cevap vermek mümkün. Ancak temelde arama motorları hatalı bir bağlantı gösterdiğinde kullanıcı için teyit boşluğunu bırakır. Fakat sohbet robotları hatalı bir bağlantıyı güvenilir bir üslupla, tereddütsüz biçimde cümle olarak kurar. Hata biçimi, hata oranından daha belirleyici hale gelir. Hal böyle olunca kullanıcının teyit boşluğu kapanıverir.
Bilgi ediminde kelimelerin yan yana gelme ihtimalini baz almak da çok temelden sorunlar ortaya çıkarabilmektedir. OpenAI merkezli araştırmaların ortaya koyduğu üzere, yapay zekada “halüsinasyon” denilen yanlış bilgi üretimini tamamen engellemek teknik olarak mümkün değil. Çünkü sistem, veri kümeleri içindeki istatistiksel yerleşim üzerinden işlem yapar. Dolayısıyla doğrulamaz, inanmaz ve yalnızca sıralar.
Bu durumun en riskli sonuçları sağlık ve haber analizinde görmek mümkün. BBC kaynaklı bir araştırmaya göre yapay zeka haberleri yorumlarken %45 oranında hatalı çıktılar üretiyor. Tıpkı geçmişteki zehirli bitki broşürleri gibi, kaynağı güvenilir görünse de içerik ciddi hatalar barındırabiliyor.
Ne var ki, broşür vakasını sohbet robotlarının otoriter şekillerde bilgi vermelerine benzetsek de bu iki vaka arasında da kritik bir fark var. Broşürü yazan bir yetkili varken, yani sorumlu aranabilirken, yapay zeka hatasında sorumluluk modeli eğitene mi, kullanan kişiye mi, yoksa şirkete mi ait muamması bulunuyor. Bu sorumsuzluk boşluğu, Hannah Arendt’in deyimiyle “hiçkimsenin yönetimi” durumunu doğuruyor. Hal böyleyken dezenformasyonun hareket alanı da sorumluluk boşluğuyla genişliyor.
Tüm bu tablo, bilgi çağının asıl krizinin bilginin çokluğu olmadığını gösteriyor. Edmund Gettier’in klasik sorusunu hatırlayacak olursak, bilgi, “doğrulanmış doğru inanç” ise yapay zekanın çıktısı bu tanıma nasıl girer? Sistem inanmazken, doğrulamazken ve yalnızca olası bir sözdizimi üretirken, bu ürettiği şey nasıl “bilgi” olur. Biz neden ona “bilgi” muamelesi yaparız? Çünkü o çıktı, bilgiyle aynı biçimi paylaşır. Anlam üretmeden anlam görünümü üretir. Kopya, aslından ayırt edilemez hale geldiğinde gerçeğin kendisi işlevsiz kalır.
Sorun, yanlış bilginin artması değil; doğru ile yanlış bilginin artık aynı biçimi paylaşmasıdır. Geçmişte broşürün zehiri, en azından biçimsel olarak sorgulanabilirdi. Bugün ise doğru ile hatalı çıktı, aynı cümle yapısında, aynı özgüvenle karşımıza çıktığı için inanmaktan başka çaremiz kalmamış gibi görünüyor.
Yapay Zeka Yarışı Protestosu
Geçtiğimiz hafta San Francisco’da Anthropic, OpenAI ve xAI merkezleri önünde bir protesto gerçekleşti. Bu protesto, yapay zekaya şüpheli yaklaşan hareketlerin yeni bir aşamaya geçtiğini gösteren önemli bir kırılma noktası olarak değerlendirilebilir. “Stop the AI Race” (Yapay Zeka Yarışını Durdur) adlı oluşumun öncülük ettiği bu eylem, sembolik bir yürüyüş özelliği taşımakla beraber küresel ölçekte büyüme potansiyeli taşıyan bir düşünsel ve politik hattın ilk kitlesel tezahürleri olarak okunmaya da oldukça müsait.
Hareketin kayda değer bir çoğunluğunu akademisyenler ve teknoloji araştırmacıları oluşturuyor. Temelde savundukları iddia ise yapay zeka gelişiminin artık kontrol edilemez bir hıza ulaştığı yönünde. Özellikle akademik isimlerin katılımı, bu protestonun marjinal bir tepki olmanın ötesinden teknik çevrelerde de karşılık bulan bir kaygının ürünü olduğunu gösterebilir.
Protestonun aktörleri, akademisyenler ve araştırmacılar olarak çok daha temelden bazı risklere işaret ediyorlar. Yapay zekanın yalnızca ekonomik ve toplumsal dönüşümler yaratmakla kalmayıp, uzun vadede insanlığın varoluşsal güvenliğini tehdit edebileceğini ileri sürüyorlar.
Protestonun temel talebi oldukça net. Büyük yapay zeka şirketlerinin, eğer diğer büyük aktörler de aynı yönde adım atarsa, ileri seviye (frontier) yapay zeka sistemlerinin geliştirilmesini geçici olarak durdurmayı taahhüt etmesi isteniyor. Bu “koşullu duraklatma” önerisi, rekabet baskısı nedeniyle tek taraflı geri adım atamayan şirketler için kolektif bir çözüm zemini sunmayı amaçlıyor. Bu yönüyle hareket, klasik teknoloji karşıtı protestolardan ayrılarak daha stratejik ve koordinasyon odaklı bir yaklaşım geliştiriyor.
Ancak bu protestoyu asıl önemli kılan unsur, farklı motivasyonların tek bir çatı altında birleşmesi. Katılımcılar arasında yapay zekanın işgücü piyasasını dönüştürerek kitlesel işsizliğe yol açacağını düşünenler, demokratik süreçlerin algoritmik manipülasyonla zayıflayacağından endişe edenler ve en uç noktada insanlığın yok oluşunu mümkün gören “varoluşsal risk” (existential risk) perspektifini benimseyenler bulunuyor. Bu çeşitlilik, hareketin genişleme potansiyelini artırırken, aynı zamanda söylem ve hedefler açısından parçalanma riskini de beraberinde getiriyor.
Önümüzdeki dönemde bu tür protestoların daha da çeşitlenmesi ve farklı toplumsal kesimlere yayılması muhtemel görünüyor. Örneğin, sendikalar ve çalışan grupları yapay zekanın ekonomik etkilerine odaklanan eylemler düzenleyebilirken, akademik çevreler daha çok etik ve güvenlik boyutuna vurgu yapan kampanyalar geliştirebilir. Aynı şekilde, teknoloji çalışanlarının içeriden başlattığı itiraz hareketleri ile sokak protestolarının kesişmesi de olası. Bu durum, yapay zeka karşıtı söylemin tek bir eksenden değil, çok katmanlı bir yapı içinde gelişeceğini göstermektedir.
Netice itibariyle, San Francisco’daki bu protestodan gördüğümüz üzere yapay zeka artık çok daha toplumsal ve gündelik bir mesele olarak masamızda. Önceleri mühendisler ve dil bilimciler için önem arz eden bir inovasyon iken, bugün teknoloji ile alakası olmayan çalışanları da etkileyebilen, etki alanı oldukça genişlemiş bir ürün halinde. Dolayısıyla bu tür eylemler mevcut politikaları etkilemekle beraber, aynı zamanda yapay zekanın geleceğine dair toplumsal bir müzakere zemini oluşturma potansiyeline sahip. Eğer gelişim hızı ve risk algısı arasındaki makas açılmaya devam ederse, önümüzdeki yıllarda çok daha geniş katılımlı, daha sert ve daha politikleşmiş yapay zeka karşıtı hareketlerle karşılaşmamız şaşırtıcı olmayacaktır.