Yapay Zekada Fren Söylemi ve Jeopolitik Satranç
Anthropic CEO’su Dario Amodei’nin yayımladığı “We Must Pace the Frontier” (Sınırları Hızlandırmayı Dengelemeliyiz) başlıklı manifesto, teknoloji dünyasında uzun zamandır süregelen yapay zeka tartışmalarını bir kaç gündür başka bir boyuta taşıdı. Amodei bu metinde regülasyonlar, güvenlik araştırmaları ve denetim mekanizmaları olgunlaşana kadar öncü modellerin geliştirilme hızının düşürülmesi gerektiğini ve Anthropic bünyesinde de bağımsız denetleyicilere erişim sağlayacaklarını ilan etti. OpenAI CEO’su Sam Altman ve Elon Musk’ın da hızla destek verdiği bu “frene basma” çağrısı, ilk bakışta teknoloji devlerinin vicdani bir uyanışı gibi görünse de satır araları dikkatle okunduğunda tablonun çok daha karmaşık, oportünist ve jeopolitik hesapları da sakladığı anlaşılıyor.
Meselenin ilk kritik boyutu, Silikon Vadisi’nin içeriden verdiği tepkilerde ve yapay zeka eleştirmeni Gary Marcus’un değerlendirmelerinden çıkarılabilir. Marcus, bağımsız denetim ve şeffaflık ilkelerini prensipte memnuniyetle karşılasa da bu hamleye çekinceyle yaklaşıyor. Nitekim David Sacks, François Chollet ve Dr. Angela Rasmussen gibi isimlerin de altını çizdiği üzere, pazarın mevcut liderlerinin birdenbire regülasyon talep etmesi akıllara kaçınılmaz olarak “merdiveni yukarı çekme” (pulling up the ladder) stratejisini getiriyor. Bu strateji önde olan şirketlerin yeni girişlere mani olmak için bir nevi merdiveni yukarı çekerek bu girişleri engellemesi anlamına geliyor. Ayrıca aynı strateji arkadan gelen açık kaynaklı rakipleri ve start-up’ları aşırı karmaşık denetim eşikleriyle boğmak, fiili bir yapay zeka karteli oluşturmak için de en kolay akla gelen yollardan biri.
Dahası, Anthropic’in halka arz (IPO) öncesinde katlanılamaz boyutlara ulaşan nakit yakımını ve sunucu giderlerini böylesi erdemli bir yavaşlama anlatısıyla rasyonalize etmeye çalıştığı kuşkusu da oldukça yaygın. Bağımsız denetçi olarak telaffuz edilen METR gibi yapıların Silikon Vadisi ve Efektif Altruism çevreleriyle iç içe geçmiş olması ise sürecin tarafsız bir kamu denetiminden ziyade bir düzenleyici manipülasyonu riski taşıdığını gösteriyor. Çünkü denetleyen ve denetlenenin aynı çevrelerden olduğu gerçeği kullanıcıların da farkında olduğu ve güven zedeleyen bir husus. Bu yüzden gerçek bir denetim mekanizması şirketlerin kendi seçtiği dost kurumların raporlarına değil, otonom ajanların verdiği zararlar için bağlayıcı cezai sorumluluğa ve kusurlu modellerin piyasadan toplatılabilmesine dayanmalıdır.
İkinci ve belki de en çelişkili boyut, Amodei’nin metninde belirginleşen jeopolitik ton. Amodei, ABD’nin yavaşlayabilmesi için önce Çin ile arasındaki teknolojik farkı 3 ila 5 yıla çıkarması gerektiğini savunuyor. Gelişmiş yarı iletkenlerin ve üretim ekipmanlarının Çin’e satışının tamamen durdurulmasını, kaçakçılığın önlenmesini ve Çinli aktörlerin Batılı modeller üzerinden yaptığı “model damıtma” (distillation) faaliyetlerine savaş açılmasını istiyor. Ancak tüm dünyanın ürettiği kamusal veriyi izinsizce kazıyarak devasa değerler yaratan Silikon Vadisi’nin, sıra kendi çıktılarının başkalarınca kullanılmasına gelince telif ve etik bekçiliğine kalkışması da bariz bir çifte standart barındırıyor. Çin devlet medyası Global Times’ın bu girişimi Amerikan teknoloji sağının kaleme aldığı bir “Soğuk Savaş senaryosu” olarak nitelemesi de bu sebeple şaşırtıcı değil. Pekin’e göre Washington, bir yandan Çin’i çevreleyip küresel yönetişimin dışına itmeye çalışırken diğer yandan küresel yapay zeka güvenliği üzerine ortaklık kuramaz. Zira kendi inovasyonunu yavaşlatırken rakibin yoluna barikat kurmak rasyonel bir güvenlik mimarisi olmaktan öte açık bir teknolojik hegemonya hamlesidir. Dolayısıyla bu durum aktörlerin de farkında olduğu jeopolitik bir tahvil barındırmaktadır.
Tartışmanın diplomasi ayağında ise yaklaşan Xi Jinping - Donald Trump zirvesi kritik bir kırılma noktası olarak ufukta beliriyor. Washington tarafında Donald Trump, “Yapay zekada öndeyiz, kazanan her şeyi alır” diyerek herhangi bir yavaşlama fikrini peşinen reddediyor ve meseleyi katı bir sıfır toplamlı yarış olarak konumlandırıyor. ABD cephesindeki bu sert tutuma karşılık, Çin cenahından gelen daha pragmatik öneriler dikkat çekiyor.
CUHK-Shenzhen akademisyenlerinden Huang Ping, Çin’in doğrudan bir çatışmadan kaçınmak adına “taviz vererek ilerleme” stratejisini benimsemesi gerektiğini savunuyor. Bu yaklaşıma göre küresel yapay zeka pazarında geçici bir “iş bölümü” üzerinde uzlaşılabilir. ABD yüksek teknoloji çipleri, bulut bilişimi ve öncü kapalı modeller üzerindeki hakimiyetini sürdürürken; Çin açık kaynaklı modeller, düşük maliyetli çıkarım (inference), endüstriyel uygulamalar ve akıllı cihaz pazarını domine edebilir.
Huang’ın bu uzlaşmacı tezi, küresel pazarların Çin’in sanayi üretim gücünden duyduğu endişeyi yatıştırmak ve üçüncü ülkelerin ABD bloğuna tamamen kaymasını engellemesi açısından stratejik bir argümantasyona sahip. Ne var ki Pekin’in kendi iç dinamikleri de yekpare değil. Çin’in teknoloji vizyonu sadece ucuz açık kaynak model ihracatıyla sınırlı kalmak istemiyor. Ulusal veri merkezleri üzerinden küresel çıkarım trafiğini kontrol etme arzusu, uzlaşma sınırlarını daraltıyor. Zira her aktör tekil egemenliği kuşatmanın peşine düşmüş durumda.
Son tahlilde, yapay zekada “frene basma” çağrısı da saf hümanist sorumluluk bilincinden ortaya çıkmış alarmist bir söylem olarak okunmaya müsait olsa da görünen gerekçelerin arkasında epey bir jeopolitik endişe açığa çıkmaya hazır bekliyor. Ortada, kendi ekonomik darboğazlarını ve yasal tehditlerini güvenlik retoriğiyle savuşturmaya çalışan bir teknoloji tekeli, bu tekelin çıkarlarını ulusal güvenlik aracı olarak kullanan bir Amerikan devleti ve teknolojik ambargolara karşı açık kaynak hamleleri ve taktiksel tavizlerle manevra alanı arayan bir Çin var. Bu sebeple hem mevcud hem de yeni piyasaya giren aktörlerin hareket örüntüleri ve manevraları alışılagelmiş biçimlerden daha karmaşık.
Güvenlik, etik ve hizalanma gibi evrensel kavramların doğrudan pazar korumacılığı ve nüfuz mücadelesine gerekçe sayıldığı bir vasatta, frene basmaya niyeti olanların olup olmadığı çok muğlak. Herkes sahayı puslulaştırmak istese de, oluşan sisin içinden birileri sıyrılmak istiyor. Bunun için aktörlerin yol kazası yaşamaması, hızların yavaşlaması gerekiyor. Çünkü masadaki asıl mücadele, bütün bu sisleri arkasında bırakıp kuralları kimin koyacağı ve hız göstergesini kimin kontrol edeceği üzerinden yürüyor.
Yapay Zekanın Geleceğinden Korkarken Bugünü Kaçırmak
Yukarıda bahsedildiği üzere yapay zeka şirketleri arasındaki rekabet, teknolojik bir yarışın yavaşlamasına dair teknoloji liderlerinin demeçlerinin ötesine geçerek; Washington’ın da karşı argümanlarla doğrudan müdahil olduğu bir tartışmaya dönüşüyor. Anthropic CEO’su Dario Amodei’nin yapay zeka geliştirme hızının yavaşlatılması ve şirketlerin ortak güvenlik standartları oluşturabilmesi için hükümetin devreye girmesi çağrısı, OpenAI CEO’su Sam Altman ve Elon Musk gibi sektörün önde gelen isimlerinden de destek buluyor. Microsoft CEO’su Satya Nadella da yapay zeka geliştirme sürecinin daha kontrollü ilerlemesi gerektiğini savunuyor.
Ancak nadiren oluşan bu ağız birliğine karşı ABD yönetiminin cevabı, devletlerin bu yarışa ekonomik ve stratejik üstünlük temelli baktığını gösteriyor. Trump’ın “AI’ı kim kazanırsa dünyayı da o kazanır” yaklaşımı, Washington’ın meseleyi doğrudan Çin ile yürütülen teknoloji rekabetinin merkezine yerleştirdiğini gösteriyor. Bu nedenle ABD’de yapay zekanın sınırlandırılması çağrısı, ulusal güvenlik ve ulusal çıkar tartışmalarının içine çekiliyor.
Hal böyleyken ortaya oldukça kritik bir ikilem çıkıyor. Yapay zekanın geliştirilme hızını yavaşlatmak güvenlik açısından gerekli olabilir ancak aynı yavaşlama ABD’nin Çin karşısındaki teknolojik üstünlüğünü kaybetmesine de sebebiyet verebilir. Bu nedenle Washington açısından mesele jeopolitik gerekçelerle rakibi Çin’in gerisine düşmemek. Elbette yapay zekanın ne kadar güvenli olduğu sorusu bürokratik elit için de önem arz ediyor ancak ulusal rekabet ulusal varoluş söylemiyle daha öncelikli hale getiriliyor. Burada meselenin güvenlik boyutuna odaklanmak açıklama ihtiyacını gidermeye yardımcı oluyor ancak büyük manzara ulusal çıkarları barındıran çok katmanlı bir dinamiğe sahip.
Bugünkü modeller henüz tamamen bağımsız biçimde sonraki versiyonlarını tasarlayıp geliştiren bir sistem kurmuş değil. Ancak YZ’nin kod yazma, hata tespit etme, araştırma yapma ve yeni modellerin geliştirilmesine yardımcı olma kapasitesi arttıkça, insanların YZ geliştirme sürecindeki rolünün giderek azalacağı düşünülüyor. Recursive self-improvement olarak adlandırılan bu ihtimal, yapay zekanın kendi gelişimini hızlandırabileceği bir geri besleme döngüsünü ifade ediyor.
Tam da burada tartışmanın daha spekülatif boyutu devreye giriyor. Eğer bir yapay zeka sistemi kendisini geliştiren süreçlerin önemli bir bölümünü üstlenirse, insanlar üzerinde ne ölçüde kontrol kalacağı sorusu ortaya çıkıyor. YZ araştırmacılarının bir kısmı bu nedenle gelecekte insan zekasını aşan sistemlerin ortaya çıkmasının yalnızca ekonomik veya teknolojik bir dönüşüm yaratmayacağını, insanlığın varlığı açısından da ciddi riskler taşıyabileceğini düşünüyor. Son dönemde bazı araştırmacıların büyük YZ şirketlerinden ayrılarak bu riskleri kamuoyuna taşıması da tartışmayı daha görünür hale getiriyor.
Ancak burada önemli bir ayrım yapmak elzem. Yapay zekanın bir gün insanlığı ortadan kaldırıp kaldırmayacağı sorusu bugün için büyük ölçüde spekülatif kalıyor. Bunun nasıl gerçekleşeceğine ilişkin senaryolar arasında insanların manipüle edilmesi, otonom silahların kontrol edilmesi veya biyolojik tehditlerin ortaya çıkarılması gibi ihtimaller birçokları tarafından gündeme taşınıyor. Ancak bu senaryoların hiçbirinin bugün gerçekleşmiş bir “YZ felaket senaryosu” olmadığını da unutmamak gerekiyor.
Timnit Gebru’nun eleştirisi bu hususta önemli. Gebru, YZ şirketlerinin ve YZ güvenliği tartışmasının giderek “makineler kontrolden çıkarsa ne olur?” sorusuna odaklandığını, bunun ise bugün yaşanan daha somut sorunları geri plana ittiğini savunuyor. Ona göre YZ’nin bir gün bilinç kazanıp insanlığı yok etmesinden önce, bugün insanların YZ’yi hangi amaçlarla kullandığına bakmak gerekiyor.
Bu bakış açısında otonom silahlar, iş kayıpları, siber saldırılar, dezenformasyon, enerji tüketimi ve şirketlerin giderek artan gücü çok daha somut riskler olarak öne çıkıyor. YZ’nin kendi başına kötü bir karar verip vermeyeceğinden ziyade, bu teknolojiyi kimlerin hangi amaçlarla geliştirdiği ve kullandığı sorusu önem kazanıyor.
Gebru’nun köprü benzetmesi de tam olarak bunu anlatıyor. Bir köprü çöktüğünde, köprünün neden ve nasıl “karar verdiğini” veya bilinçli olup olmadığını sorgulamıyoruz. Köprüyü kimin yaptığını, hangi standartlara göre yaptığını, hangi testlerden geçtiğini ve kim tarafından denetlendiğini soruyoruz. Yapay zeka için de benzer bir yaklaşım öneriliyor.
Bu nedenle bugün YZ tartışmasında iki farklı gelecek tasavvuru yan yana duruyor. Bir tarafta recursive self-improvement, süperzeka ve bunların insanlığın yok olmasına kapı araladığı etrafındaki spekülasyonlar. Öte yandan recursive self-improvement süperzekanın ve YZ yarışının güncel etkilerinden olan YZ destekli savaş teknolojileri, işgücünün dönüşümü, siber güvenlik, dezenformasyon ve teknolojik gücün birkaç büyük şirketin elinde yoğunlaşması gibi çok daha yakıcı ve elzem soruları tartışıyor olmamız gerekiyor.
Üstelik bu iki tartışma birbirinden bağımsız değil. Çünkü YZ şirketleri bir yandan daha güvenli ve kontrollü geliştirme çağrısı yaparken, diğer yandan Çin’le rekabetin gerisinde kalmamak için teknolojik ilerlemenin sürdürülmesi gerektiği savunuluyor. Şirketlerin piyasa değeri ve yaklaşan halka arzları da bu rekabeti daha karmaşık hale getiriyor.
Sonuçta ortaya çıkan problemin siyasi ekonomik ve teknik yansımaları var. YZ’yi yavaşlatmak mı gerekiyor, yoksa YZ yarışında geri kalmamak mı? Daha da önemlisi, bu iki seçenek gerçekten birbirinin alternatifi mi? Belki de asıl tartışılması gereken, yapay zekanın bizi bir gün yok edip etmeyeceğinden önce, bugün sahip olduğumuz gücü nasıl yöneteceğimiz oluyor. Çünkü geleceğin süper zekasının oluşturacağı riskleri öngörmek önemli de olsa, bugünün yapay zekasının zaten savaşta, ekonomide, çalışma hayatında ve bilgi düzeninde yarattığı dönüşüm gözümüzün önünde gerçekleşiyor. Bu nedenle YZ tartışmasını yalnızca “makineler kontrolden çıkarsa ne olur?” sorusuna indirgemek, sorunun önemli bir bölümünü kaçırma riski barındırıyor.