Klasik algoritmik yönetimde kuralları koyan, onların mantığını kabul eden ve gerektiğinde değiştiren özne insandır. Makinenin düzenliliği bir araçtır, fakat asıl güvence insan muhakemesidir. Yapay zeka söz konusu olduğunda ise insanın eksikliklerinden arınmış bir aklın var olabileceği fikri hakimdir. Kararların ardındaki hikmeti tam anlamasak bile, bir gün bu akla kendi irademizi devretme ihtimali insanlık tecrübesini temelden sarsabilecek kadar tehlikeli.
Algoritmaların idari işlere karışması fikri yeni değil. Hem şirketler hem devletler birçok işi algoritmaların desteğiyle çözüyor. Dünya örneklerinde hangi kredi başvurularının hızlı incelemeye alınacağı, kamu konutu başvurularında sıralamanın nasıl yapılacağı, belediye bakım ekiplerinin hangi mahallelere ne zaman gideceği ve acil çağrı merkezlerinde aramaların hangi operatöre aktarılacağı gibi kararlarda algoritmaların ayak izini görmek mümkün. Ancak bu operasyonların çoğu, açık bir karar yetkisi olarak değil, “karar destek” adı altında sessizce yürütülüyordu.
Yapay zeka teknolojilerinin gelişmesiyle ise tartışma farklı bir boyuta evriliyor gibi görünüyor. Tartışmayı tetikleyense Arnavutluk ve Japonya’dan gelen iki haber. Arnavutluk hükümeti, yapay zeka destekli dijital asistan Diella’yı kamu alımlarının yönetiminde görevlendirdi. Japonya’da ise küçük bir parti olan Path to Rebirth, parti başkanlığına bir yapay zeka seçeceğini duyurdu.
Haberlerin sansasyonelliğine rağmen her iki örnekte de yetki bütünüyle makinelere devredilmiş değil. Diella’nın halihazırda bir imza yetkisi yok. Japonya’daki parti ise ulusal ve yerel parlamentoda sandalye sahibi olmayan ve resmi işlemler için yine de bir insan temsilci göstermek zorunda olan bir kurum.
Yine de bu hamlelerin önemi açık. Algoritmik karar süreçleri sahne arkasından çıkıp adı sanı olan, kurumsal statü kazanmış kamusal aktörlere dönüşüyor. Bu da meseleyi bir daha ve derinden ele almayı gerektiriyor.
Yönetim ve siyasete dair bir takım işleri yapay zekaya devretmek, onun bu işi bizlerden iyi yapabileceğinin bir kabulü niteliğinde. Peki makineler tam olarak ne hususta bizden daha iyi olmayı vadediyorlar?
Girişte vurgulandığı gibi algoritmik yönetişim yeni değil. Bugünü farklı kılan ise kural-tabanlı olmayan; veriden öğrenen, zamanla uyarlanan ve ölçeklenebilen yapay zeka sistemleri üzerine kurulu tartışma. Arnavutluk ve Japonya’dan gelen haberler tam da bu dönüşüme dikkat çekiyor.
Yapay zeka, ilk bakışta algoritmik yönetimin doğal bir devamı gibi görünse de aslında bu düşünce geleneğinden köklü bir kopuşu temsil ediyor. Klasik algoritmik yönetimde kuralları koyan, onların mantığını kabul eden ve gerektiğinde değiştiren özne insandır. Makinenin düzenliliği bir araçtır, fakat asıl güvence insan muhakemesidir. Yapay zeka söz konusu olduğunda ise bambaşka bir sahne açılır. Burada, insanın eksikliklerinden arınmış bir aklın var olabileceği fikri hakimdir. Kararların ardındaki hikmeti tam anlamasak bile, bir gün bu akla kendi irademizi devretme ihtimali ufukta belirir. Böylesi bir teslimiyet düşüncesi insanlık tecrübesini temelden sarsabilecek kadar tehlikeli.
Nesnel Karar Alabilmek
Algoritmik yönetişimin kökenlerini aydınlanma düşüncesinin keyfiliği, öznelliği ve argümana dayalı yaklaşımı muhakeme ve hesapla aşma arayışında bulabiliriz. Leibniz’in “calculemus” (hesaplayalım) çıkışıyla “evrensel hesap” teklifi ve Bentham’ın faydacılığında kamusal mutluluğun rasyonel hesapla azamileştirilmesi böylesi yaklaşımlar. Sosyal olanı insanın kaprislerine, öznelliğine ve nakıslığına bırakmak istemeyen bir yaklaşım bu.
Günümüzde algoritmik yönetişim bu projenin gerçekleşmiş hali gibi sunuluyor. Yani algoritmalara devredilmiş kararlar keyfilik ve önyargıdan arındırılmışlığı vadediyor.
Bu arayışın devletteki kavramsal dayanağını ise Weber’in bürokratik sosyolojisinde bulmak mümkün. Weber’e göre ideal modern devlet, kurallardan güç alır; resmi prosedürler, yazılı kayıtlar ve hiyerarşik gözetimle çalışır.
Algoritmik sistemler bu çizginin doğal uzantısıdır. Algoritmalar da kişisel takdiri ortadan kaldırarak tutarlılığı artırmayı hedefler ve bunu insanı devreden çıkararak yapar. Bu açıdan bakıldığında, algoritmik yönetişim bürokratik rasyonalizasyonun yoğunlaşmasıdır.
1940’larda gelişen sibernetik yaklaşımı ise bu düşünce geleneğini sistemik hale getirdi denebilir. Norbert Wiener 1948’de bu fikri ortaya koyarken tıpkı bir termostatın odanın sıcaklığını ölçüp ısıtıcıyı açıp kapatarak istenen sıcaklığı koruması gibi, yönetim de kendi durumunu sürekli izleyip hedeflerle karşılaştırmalı ve buna göre harekete geçmelidir tezini savundu.
Wiener’a göre bu sadece makineleri ilgilendiren bir mevzu değildi. Şirketler, devletler ve hatta topluluklar da kendi “sıcaklıklarını” ölçen, hedeflere ne kadar yaklaştığını gören ve buna göre ayar yapan sistemler olarak ele alınabilirdi.
Stafford Beer, “Yaşayan Sistem Modeli” ile bu mantığı bütünüyle ekonomilere tatbik etti; devleti canlı bir bilgi işleyici olarak gördü.
Algoritmik yönetişim de bu vizyona tatbik edilebilir. Sensörler dijital veri akışlarına, denetleyiciler makine öğrenmesi modellerine dönüşüyor; düzeltici eylemler makine hızında uygulanabiliyor.
İkinci Dünya Savaşı sonrası dönemde devletler, lojistikten bütçe tahsisine ve sosyal planlamaya kadar pek çok alanda yöneylem araştırması, doğrusal programlama ve karar analizi kullandı. Savaş oyunları, planlama modelleri ve diğer birçok “optimal” çözüm arayışı bu bağlamda gerçekleşti.
Güncel sistemler bu optimizasyon ethosunu miras alırken, anlaşılır denklemlerin yerine opak sinir ağları koydu. Dolayısıyla optimizasyon çabaları, açıklanabilirlik zemini olmaksızın algoritmanın hesaplamasına teslim edilmiş durumda. Bu da Weber’in düşlediği bürokrasiden ziyade kaotik bir düzenin daha muhtemel olduğunu gösteriyor.
Yapay Zeka Rüzgarı ve Yönetişim
Bugünü özgün kılan, rasyonalizasyon arzusunun kendisinden çok araçların niteliği. Kural-tabanlı önceki sistemlerin aksine çağdaş yapay zeka, açık mantıktan çok olasılıksal çıkarıma dayanıyor. Çıktıları, şeffaf kurallar işleterek değil, verideki karmaşık bağıntıları eşleyerek üretiyor.
Bu yaklaşım ise esneklik ve uyarlanabilirlik sağlarken, opaklığı artırıyor. Bir önerinin neden verildiğini anlamak ya da sonuç arkasındaki akıl yürütmeyi izlemek zorlaşabiliyor.
Bir diğer fark ise ölçek ve ayrıntı düzeyi. Eski algoritmik yaklaşımlar genelleme üzerine kuruluyken, yapay zeka mikro farklılaşmaları mümkün kılıyor. Birey ölçeğine kadar ayarlanabilir yaklaşımlardan bahsediyoruz. Hangi kuralların izlendiği tam olarak bilinmese bile, bu sistemler kişinin verisini kullanarak bireysel düzeyde ayarlanmış sonuçlar üretiyor.
Böylesi bir ince ayar imkanı kamusalın müşterek niteliğini aşındırma riski taşıyor. Toplu muameleyi gerekçelendirilmemiş fakat bireyselleştirilmiş optimizasyona bırakmak distopyan bir geleceğe işaret ediyor.
Zamansal düzlem de değişiyor denebilir. Klasik bürokratik ve planlama düzenleri dönemlik ve geriye dönüktü. On yılda bir nüfus sayımı, yılda bir bütçe, yasama döneminde politika revizyonu gibi. Modern yapay zeka ise anlık veriyi esas alarak kararları mütemadiyen kalibre edebiliyor.
Bu da gözetimi zorlaştırıcı bir husus. Meclis denetimi ya da yargısal inceleme tam olarak yapay zekanın hangi zaman kesitindeki tutumunu değerlendirecek?
Arnavutluk ve Japonya’dan gelen haberleri ne yalnızca birer gösteri olarak küçümsemeli ne de makine egemenliğinin habercisi görerek korkuya kapılmalı. Her iki girişimi de konuyu mikro düzeyde test edebileceğimiz bir imkan olarak görebiliriz. Bu girişimler, normların, denetim pratiklerinin ve hukuki çerçevelerin tam olarak kemikleşmeden önce tasarlanması için fırsatlar sunuyor. Yönetişimde yapay zekanın rolü giderek artacak gibi görünüyor. Somut adımlar atılmadan evvel bu tartışmayı vermek ise son derece hayati.
