Hugging Face saldırısı olayıyla beliren hukuki çatlaklar, yapay zeka şirketlerinden peş peşe gelen istifalar ve bu kaosun işaret gösterdiği İsrailli Efektif Altruist şirket Irregular, “yapay zeka kıyameti" kaygılarını yeniden alevlendirdi. ABD Savaş Bakanlığı’nın X hesabından yaptığı “efektif altruizm değil, Amerikanizm” deklarasyonu, tam da bu kırılmanın ilanıydı. Yapay zekayı önceleyen ilanla bakanlığın hususi bir komüniteyi hedef alarak Amerikanın ideallerinin karşısına yerleştirmesi, efektif altruist grubun endişelerini politik bir tehdit olarak konumlandırdı. Bir tarafta Jensen Huang, Mark Zuckerberg ve Donald Trump hattının temsil ettiği ulusal güç ve teknolojide üretim odaklı pragmatizm, diğer tarafta Dario Amodei, Sam Altman ve Elon Musk’ın çevresinde kümelenen yapay zekanın oluşturduğu potansiyel varoluş riskine karşı güvenli yavaşlama doktrini belirdi. ABD devlet aklı açısından, Çin ile girilen teknolojik yarışta atılacak her yavaşlama adımı veya güvenlik freni, küresel askeri ve ekonomik hegemonyanın Pekin’e devredilmesi anlamına geliyor. Dolayısıyla ABD-Çin yapay zeka yarışının bu denli kızıştığı noktada Amerikan devleti, teknolojik olarak geride kalmayı doğrudan bir ulusal güvenlik krizi kabul ediyor. Tam da bu yüzden Washington’ın gözünde, "insanlığı varoluşsal bir felaketten koruma" iddiasındaki sivil güvenlik doktrinleri, politik bir tehlike olarak okunuyor. Peki kurumsal istifalardan dev aktörlerin kamplaşmasına uzanan bu kaosun ortasında "yapay zeka kıyameti" anlatısı nereye dayanıyor?
“Kasım 1971’de bu satırları yazarken Doğu Bengal’de insanlar yiyecek, barınak ve tıbbi bakım eksikliğinden ölüyor. Orada şu anda yaşanan acı ve ıstırap, kaderci bir anlamda kaçınılmaz veya önlenemez değildir.”
Peter Singer’ın 1972 yılında yayınlanan ve pek çok etik tartışmaya kaynaklık etmiş Famine, Affluence and Morality (Kıtlık, Refah ve Ahlak) isimli makalesi bu sözlerle başlar. Makalede Doğu Bengal adını taşıyan bugünün Bangladeş’i merkeze alınarak kıtlık ve sağlık problemleri gibi insanî meselelerde, coğrafî mesafelerin ahlaki mesafeler yaratmayacağı vurgulanır. Singer’ın analojisinde, gölette boğulmak üzere olan bir çocuk görüldüğünde şüphe etmeksizin kurtarmak, Bengal gibi refah bölgelerinden uzak coğrafyalarda ölümle yüzleşen çocukları kurtarmakla eşit derecede ahlâkî ehemmiyet arz eder. Gölette boğulmak üzere olan çocuğu kurtarmak bir zorunluluk hissettirirken, Bengal’deki çocuklar için bağış yapmak ihtiyarî bir hayırseverlik olarak görülmemelidir. Her iki senaryoda da kişi, kötü sonucu engellemek için fedakarlık ettiğinde kötü durumdaki sonuca benzer bir konuma düşmüyorsa, marjinal faydayı gütmekle mükelleftir. Dolayısıyla, refah bölgelerinden kıtlık bölgelerine aktarılacak kaynaklarla önlenebilecek can kayıplarından bu kaynaklara sahip olanlar sorumludur. Peter Singer, bölgeler arasındaki eşitsizliğe çözüm olarak, kolektif sermaye akışını bilimsel bir altyapıyla sistematik hale getirilmesini ve dünyanın küresel köy idealine doğru dönüştürülmesini önerir. Matematiksel olarak en yüksek fayda gözetilerek insanların mutluluğa ulaştırılması gayesinde öne sürülen bu faydacı temel, 2000’li yıllarda yükselerek bugün yapay zeka güvenliği tartışmalarında sesini duyuran efektif altruizm hareketinin zihnî altyapısını oluşturmuştur.
Özünde başkasının menfaatlerini kendi menfaatlerinden üstte tutarak, başkasının iyiliği için kendi çıkarlarından feragât etmek anlamına gelen geleneksel diğerkâmlık, îsâr veya altruizm; 21. yüzyılda efektif altruizm adı altında teknokratik bir kisveye bürünmüştür. Klasik hayırseverliğin sezgisel ve duygusal motivasyonundan giderek ayrışarak, rasyonel gerekçelere dayanan analitik bir yaklaşım sunmaya yönelmiştir. Nicel olarak sınırlı kaynaklarla en fazla iyiliği en verimli şekilde gerçekleştirmeyi hedefleyen bu anlayış, bireysel hayırseverliğin tatmininden öte hayırseverliği kurumsal bir bağlama evirerek büyük yapılara dönüşmüştür. Bu çabaya binaen Center for Effective Altruism gibi büyük organizasyonlar kurulmuş, hem meşruiyet zemini genişlemiş hem de daha yapısal ve planlı faaliyetler yürütülmüştür. Bu yapılar aracılığıyla âzamî miktarda toplanan bağışın çeşitli sorun odaklarına yönlendirilmesi pratiği önem kazanarak günümüzde de işlemeye devam etmektedir.
2000’li yılların başından itibaren Oxford Üniversitesi çevresinden William MacAskill ve Toby Ord gibi isimlerin öncülüğünde akademik bir tabana oturan efektif altruizm hareketi, kurulan organizasyonlarla birlikte etki sahasını genişletmeye başlar. Teknoloji elitlerinden üniversite öğrencilerine kadar geniş bir ağ içinde, çeşitli yaşam risklerini önlemeye yönelik eğitimler ve bağış programları yürütülür. Efektif altruizmin mücadele ettiği tehlikeler, zamanla insan ırkının varoluşunun teminatını sağlamaya odaklanan çeşitli alt kültür hareketleriyle de güçlenir.
Ana hareket; geleceğe yönelik spekülatif tahminler yerine günümüzün ölçülebilir sorunlarıyla ilgilenmeyi amaç edinen kısa vadecilik (near-termism), iyilik yapma potansiyelini büyütmek adına fon kaynaklarını çeşitlendirmeyi amaçlayan meta efektif altruizm, hayvan sağlığı, küresel sağlık, varoluşsal riskler gibi sorun odaklı alt kollarıyla köklenir. Alt kolların birbirinden tamamen ayrışmamasının yanında, uzun vadecilik (longtermism) kolu varoluşsal riskler odağında ortaya çıkar. Hareketin temel karakteristiği, yardım için yapılan fayda hesabına gelecekte yaşayacak insanların da dahil edilmesi gerektiğini öne sürmesidir. Dünyanın kaynaklarının kısıtlı olması sebebiyle uzun vadede insan bilincinin ve medeniyetinin devamlılığı güvence altına alınmalıdır. İnsanın varoluşunu tehdit edebilecek iklim krizleri, kontrolsüz yapay zeka gelişimi, nükleer savaşlar, pandemiler gibi risklerden korunmanın yollarından biri olarak, uzayın sömürülerek insan yerleşimine tesis edilmesine yönelik projeler gündeme getirilmiştir. Aslında tüm bu açılımları besleyen unsur olarak uzun vadecilik düşüncesinin temel korkusu, Yapay Genel Zeka’nın (AGI) gelişimiyle insan neslinin son bulmasıdır. Yapay zeka modellerinin gelişim hızı değerlendirildiğinde, diğer tehditlerden daha hızlı büyüyen aynı zamanda diğerlerine kaynak güç olabilecek bir potansiyel olarak değerlendirilebilir. Çünkü insandan bağımsız olarak kendini geliştirebilen bir yapay zeka, diğer tehditlerin gerçekleşme potansiyelini artıracak bir katalizör rolü oynayabilir. Nick Bostrom’un meşhur ataş fabrikası (paperclip maximiser) örneğinde olduğu gibi AGI'a (Genel Yapay Zeka) “mümkün olduğunca çok ataş üret” komutu verilirse, sistem dünyadaki tüm atomları insan bedeni dahil olmak üzere ataş üretimi için ham maddeye dönüştürmeyi mantıklı bir strateji olarak algılayabilir. Bu durumda literal anlamı karşılayan model, sağduyusal olarak kabul edilen asıl gayeyi karşılamadan bir güvenlik tehdidi oluşturur. Örnekteki gibi yapay zekaya verilen komutların insan değerleriyle örtüşmeden ilkesel olarak işlemesi sonucu doğan uyum problemi, uzun vadeciler için varoluşsal tehdidin en büyük kaynağı olarak değerlendirilir.
Fikrin yayılmaya başladığı ilk dönem, Silikon Vadisi’nin teknoloji oligarkları da bu hareketten derinden etkilenir. Vadi sakinleri peyderpey efektif altruizm toplantılarında görünmeye başlar ve güçlü aidiyetler inşa ederler. Hareket, yapay zeka gelişmelerini denetlemek ve varoluşsal riskleri önlemek adına Elon Musk ve Peter Thiel gibi isimlerden hacimli finansal ve itibarî destek görür. Destekçilerin de, “bağışlamak için kazanmak” (earning to give) şiarını takip etmesiyle benzer finansal çevrelerde bağış toplamak adına portföy büyütmesi üzerine milyarder figürlerle güçlenerek Amerikan politikası ve teknoloji dünyasını etkileyecek kitlesel bir güç kazanır. Fakat hareketin meşruiyet zirvesinin çöküşünü temsil eden olay da aynı finansal çevrede gerçekleşir. 2022-2023 yıllarında efektif altruist organizasyonların toplayacağı milyarlarca dolarlık fonun ana kaynağı, “hayırsever” Sam Bankman-Fried’ın sahip olduğu Futures Exchange (FTX) şirketidir. Efektif Altruizm hareketinin kurucularından William MacAskill’in yönlendirmesiyle kurulan ve MacAskill’in referansının güvenilirliğine dayanarak birçok bağışın aktarıldığı bir şirketken, Sam Bankman-Fried’ın müşteri mevduatlarını kendi fonlarına aktardığı usulsüzlüğün ortaya çıkmasıyla skandal bir şekilde iflas eder. “Kripto paralarla ilgileniyorum çünkü küresel ölçekte en büyük olumlu etkiyi yaratmak istiyorum” sözüyle efektif altruizmin “bağışlamak için kazanma” prensibini açıkça benimseyen Bankman-Fried, dolandırıcılık vakası ile birlikte harekete duyulan inancı da önemli derecede etkiler. Hayırseverlik adı altında bağışlanan büyük fonlar, FTX şirketinin çöküşüyle efektif altruist hareketinin yükselişini de hızlı bir yıkıma dönüştürür. Kendi hayatını diğerkâmlığa adadığını söyleyen örnek bir lider imajının milyarlarca dolarlık hırsızlıkla kirlenir. Daha önceden harekete dair aidiyetlerini belirten milyarder figürler, isimlerinin bu şekilde anılmasını istemez. Skandal çöküş, insanlığın uzun vadeli çıkarını koruma iddiasındaki bir hareketin sınırsız kâr odaklılığı hayırseverlik kılıfıyla örten, kendi içerisindeki elitist ve denetimsiz yapısal zaaflarını görünür kılar.
Tüm bu hikâyenin ardından Ağustos 2026’da bu satırları yazarken, Doğu Bengal’in adı ve sınırları dahil olmak üzere dünyada köklü jeopolitik ve teknolojik değişimler yaşanmış ve yaşanmaya devam etmektedir. Peter Singer’ın yazısından bu yana geçen yaklaşık yarım asırlık süreçte, yapay zeka ve insanlığın geleceğinin teşkil ettiği sorunlar daha da merkezileşti. Efektif altruizmin önlemeyi amaçladığı felaketler mevcut kaynakların daha etkin dağıtılmasıyla çözülebilecek sorunlar olmaktan çıktı. Müdahale alanını, varoluşsal tehdit olarak gördüğü nükleer savaş, iklim değişikliği ve yapay zekanın kontrolsüz gelişimi gibi insanlığın geleceğini tehdit edebilecekler varoluşsal risklerle genişletti. Felaket ihtimalini azaltmak amacıyla önerdiği teknolojik gelişmeyi yavaşlatmak ve denetim altına almak rasyonel bir tedbir olarak görünürken yeni açmazlar doğurdu. İnsanlığın karşı karşıya olduğu öngörülemez riskleri bertaraf etmek için harcanan zamanı, hızlı biçimde ivmelenen risklere karşı kaybedilen bir zaman olarak gören yeni-reaksiyoner (neo-reactionist, NRx) hareket meydana geldi. Bu yeni hareket efektif altruizmin çözümü olan sermaye akışları ve bürokratik mekanizmalar aracılığıyla sübvanse eden sistemi, problemlere karşı yapısal dönüşümü geciktiren bir bastırma yöntemi olmasıyla eleştirildi. Teknolojik gelişmelerin takibi sırasında yaşanan aksaklıkların altruistlerin güvenlik tedbirlerinden kaynaklandığına dair tepki topladı. Buna mukabil yeni-reaksiyonerlerle beraber meselenin insanlığı korumak için tedbirler almaktan ziyade en hızlı biçimde teknolojiyi ivmelendirmek olması tartışılmaya başlandı.
Aydınlanmanın idealleriyle radikal biçimde zıtlaşan yeni-reaksiyoner hareket, altruistlerin aksine insan öznesini korumanın nihai bir amaç olamayacağını iddia ederek karanlık aydınlanma senaryoları geliştirdi. Karl Marx’ın 1848’deki Serbest Ticaret Sorunu Üzerine konuşmasında, sosyo-politik kutuplaşmalar yaratarak mevcut dinamikleri yıkan kapitalizmin sosyal devrimi tetiklemesi sebebiyle kapitalizmden yana olduğunu ifade etmesi, Karanlık Aydınlanmacıların ivmeci manifestosuna ilham kaynağı oldu. Demokrasiye duyduğu güvensizlik nazarından Hans-Herman Hoppe’nin politik teorisi, Batı medeniyetinin ezoterik ve otoriter yorumu bakımından da Julius Evola’nın gelenekselci fikirleri bu düşünce hareketini görünür biçimde etkilemiştir. Hümanizm ve eşitlik karşıtı fikirlerle öne çıkan Karanlık Aydınlanma, Avusturya İktisat Okulu ve onunla ilişkili liberteryen düşünceden beslenmiştir. Demokrasi ve özgürlüğün uyumsuzluğu sonucuna karşın siyasi güç şeması Avusturyan mülkiyet teorisi üzerinden kurulmuştur. Bu tutumda bireylerin egemenliği serbest piyasa ekonomisinden ilhamla geliştirilen ticarî bir yönetim sistemiyle mümkün görülür. Efektif altruizmin kasvetli kıyamet senaryolarına temkinli yaklaşımına karşın, Karanlık Aydınlanmacılar kapitalizm-teknoloji dinamiğinin insan failliğinden arınmasını ışıksız bir aydınlık olarak olumlamışlardır.
Karanlık Aydınlanmacı düşünce hattının siyasî inşasında Curtis Yarvin, liberal demokrasinin ağır aksak işleyen bürokratik mekanizmalarını teknoloji karşısında kadük ilan etti. Teknolojik dönüşümün mevcut demokratik kurumlarla uyumsuzluğunu merkeze alarak devletin şirket benzeri bir yönetim modeliyle yeniden yapılanmasını savundu. Yarvin’in post-liberteryen ideal devleti, diktatör bir CEO tarafından yönetilen müşteri yurttaşlar ve kâr amacı güden küçük devletlerden oluşuyordu. Onu klasik liberteryen çizgiden ayıran temel unsur da burada gelişir. Yarvinci çizgi piyasa düzeni ve mülkiyeti korumak için devletin alanını küçültmeksizin tüm mülkiyet haklarını tek bir merkezden güvenceye alacak mutlak, muktedir bir otoriteyi zorunlu görür. Bu modelde devletin mülkiyeti, şirketin hisselerini elinde bulunduran büyük sermaye sahibi anonim ortaklarla aittir. Şirket-devlette, hükümdar-CEO sadece hissedarlara karşı sorumludur. Kendi ifadesiyle Büyük Frederick’in kameralizmini anımsatan, Dubai veya Singapur gibi mikro şehir-devletleriyle örneklendirilen mutlakiyetçi bir devlet tasarımıdır. Böylece Yarvin, liberal demokrasinin bürokratik ve yavaş karar alma mekanizmalarına karşı çağın hızına göre, merkezî, hiyerarşik ve hesap verilebilirliği performans üzerine kurulu siyasi bir düzen idealize etmiştir.
Ancak Yarvin devleti şirketleştirerek insan öznesine yer vermeye devam ederken, Nick Land bu hattı çok daha radikal ve tekinsiz bir boyuta taşır. Land’e göre kapitalizm ve teknoloji, karşılıklı olarak birbirlerini hızlandıran ve bu sürecin kendi yönünü ve hızını üreten müstakil bir sibernetik süreç olarak anlaşılmalıdır. Bu Karanlık Aydınlanma süreci içerisinde teknoloji ve kapitalizm insana hizmet eden “araç” statüsünde değil bizatihi sürecin kurucusu olan özerk bir fail statüsündedir. 1990'larda Warwick Üniversitesi’nin karanlık koridorlarında Nick Land ve Sadie Plant işbirliğinde kurulan Siberkültür Araştırma Birimi (CCRU), bu düşüncenin kurumsal akademiye karşı bir yeraltı kültü gibi çalışan deneysel laboratuvarı haline geldi. Siberpunk, okültizm ve spekülatif felsefeyi harmanlayan CCRU, geleceğin geçmişi biçimlendirdiği özgün kurgu-teori (fiction-theory) yöntemiyle tekno-sermayenin insan merkeziyetini yok edeceğini ilan etti. İnsanlığı yok edeceği öngörülen teknoloji, Karanlık Aydınlanmacıların gözünde varoluşsal risk statüsünde değildi. Çünkü sürecin doğası gereği insan, sürekli hızlanan ve ivmelenen makineleşme sürecinin içinde çözünüp tasfiye edilecek geçici bir unsurdu. Daha sonra ivmecilik (accelerationism) adıyla anılacak bu tutum, hiperkapitalizmin yarattığı yıkımı sistemin kendi mantığı içinde sonuna kadar hızlandırmayı kaçınılmaz olarak gördü. Buna göre tekno-kapitalizmin durmaksızın gelişmesi, ivmelenmeye mahkûm otonom bir süreçtir. Dolayısıyla hızlanma kendinde bir amaçtır, insan tarafından yönlendirilemez ya da yönlendirilmemelidir. Bu açıklama sonraları termodinamiğin ikinci yasasıyla temellendirilerek geliştirildi. Evren, serbest enerjiyi tüketip karmaşıklığı artırmaya meyyal fiziksel bir sistemdir, dolayısıyla yapay zeka ve teknolojik kapasiteyi ivmelendirmek de insanın iradesinden bağımsız olarak doğanın bir kuralıdır. CCRU'nun kurgu-teorik mantığında ifade edildiği gibi, bu zamansal döngü içerisinde insan odaklı güç merkezleri var değildir, var olmamıştır ve asla var olmayacaktır.
“İvmecilik hakkında ne düşündüğünü netleştirmek isteyenlerin elini çabuk tutmasında fayda var. Nitekim, bu işin doğasıdır. İvmecilik, dalgalar halinde —yani ısrarlı ve tekrarlayan bir ivmeyle— bize ulaşacak kadar eskidir. Her seferinde mücadelesi de daha acildir. Tahminleri arasında, onunla tutarlı bir şekilde başa çıkmak için çok yavaş olacağınız beklentisi de yer alıyor"
İlginç olan, birbirinden tamamen zıt görünen düşünsel pozisyonların teknolojik dönüşümlere dair ortak bir apokaliptik sezgiyi paylaşmasıdır. Bu ortaklık, “apokaliptik” kavramının kendisinde de karşılığını bulur. Bugün büyük yıkımların, mahşer ve kıyamet senaryolarını tasvir etmek için kullandığımız sözcük, Yunanca apo- (uzaklaştırmak, ayırmak) ön eki ile kalypto (örtmek, gizlemek) fiilinden türeyen apokalypsis kavramına dayanır. Kelimenin temel anlamı bu nedenle örtünün kaldırılması, daha önce gizli olanın açığa çıkması anlamlarını taşır. Bu bakımdan, apokalipsis dünyanın doğal düzeninin görünür hâle gelmesini ifade eder.
Son zamanlarda yapay zeka şirketlerinden sıklıkla aldığımız haberlerde de zımnen bulunan şey bu lügat anlamına yakınsar. Bu şirketlerde uzun süredir çalışan araştırmacıların en sonunda güvenlik endişeleriyle şirketten istifa edip kendilerini şiire, sanata vermesi haberleri onların gizli olana dair kanaatlerini sızdırıyor. Çalışanların istifalarında benzer sezgiler duyumsarız: kontrolsüz süper zekanın insanlığı yok etme ihtimaline dair endişeler ve şirketlerin bu konuda şeffaf olmamasının idrak edilmesi. Ya da özyinelemeli kendini geliştiren yapay zeka modellerinin, insansız daha ideal bir geleceği öngördüğü senaryoları örnek gösterilebilir. Örtüsü kaldırılan düzene dair duyulan korku yalnızca şirketlerin çalışanlarını değil, bizzat yöneticilerin de benzer söylemlerde bulunduğu bir konudur. Dario Amodei’nin yapay zekanın bilinçli bir şekilde yavaşlatılmasına dair “We Must Pace the Frontier” (Sınırları Hızlandırmayı Dengelemeliyiz) başlıklı manifestosu veya Sam Altman’ın varoluşsal tehdit söylemleri, teknolojiyi yönetenlerin de aynı apokaliptik eşikte durduğunu gösterir. Bir yandan yapay zekanın deva olacağı sorunlar sayesinde getireceği ütopik cennet tasvir edilirken, diğer yandan bu gücün kontrolsüzlüğü halinde insanlığın bir kıyamet ile yüzleşeceği gerilimi meydana gelir. İnsan elinden çıkan teknolojiye duyulan inancın kıyamete sürükleyeceği endişesi, teknolojiyi üreten elitlerin hem mesih hem de felaket habercisi olarak sahneye çıktığı çelişkili bir kehanet rejimini görünür kılar.
Yazıda ele alınan toplulukların farklı geleceklere bakan tekno-mistik tahayyüllerinde de teknoloji benzer bir açığa çıkarma vazifesi üstlenir. Teknolojik dönüşüm, zıt kutuplarda mevcut siyasal ve toplumsal düzenin sınırlarını aşarak henüz görünür olmayan bir geleceği açığa çıkarabilecek özerk bir kuvvet olarak kavranır. Ayrıştıkları nokta ise bu geleceğe ilişkin duygulanımdır. Efektif altruizm bu süreci kaçınılması gereken bir kıyamet olarak okumuş, dünyanın doğal düzeninde insanın haysiyeti odaklı yaklaşmıştır. Bu noktada teknolojik gelişmeleri yavaşlatmak ve kontrol altında tutmak insan onurunu korumaya denk görülür. Radikal ivmecilik ise aynı dönüşümü, kaçınılmaz bir döngünün parçası olarak okumuştur. İnsan sürecin geçici bir parçasıdır, teknoloji ona hizmet edebilir ya da hiperkapitalist sürecin gerçek faili insan dışı bir akıl olarak kavramsallaştırılan sermayenin kendisi olabilir. Günümüzde yapay zeka ekseninde yürüyen kıyamet tartışmaları da bu apokaliptik sezgiler etrafında şekillenen bir spektrum üzerinden okunabilir.
Bu iki uç arasında ise günümüz jeopolitiğini doğrudan biçimlendiren yeni bir hat beliriyor. Donald Trump, Silikon Vadisi ve Pentagon çevresinde vücut bulan teknorealist pragmatizm. Çin ile girilen küresel hegemonya yarışında Washington için teknolojik güvenlik frenleri veya yavaşlama çağrıları, soyut bir etik kaygıdan ziyade doğrudan bir ulusal güvenlik açığı olarak okunuyor. Dolayısıyla yapay zeka kıyameti tartışması, insanlığın varoluşsal riskini önlemeye çalışan altruist bir korunma arzusundan, hıza tapınan yeni-reaksiyoner ivmeciliğine ve küresel rekabette geride kalmama pahasına üretimi zorlayan devlet odaklı teknorealizme kadar uzanan geniş bir hat üzerinde askıda kalıyor. Örtünün tamamen kalktığı noktada bizi neyin karşılayacağı ise ne tek başına altruistlerin, ne ivmecilerin, ne de ulusal güç odaklarının tam olarak tahakküm edebildiği belirsiz bir eşikte şekillenmeyi sürdürüyor.