Güvenlik Duvarını Aşan Model
Geçtiğimiz hafta yapay zeka tartışmaları açısından oldukça çarpıcı bir olaya şahit olduk. Open AI ve Hugging Face vakası. Bu vakada OpenAI’a bağlı bir model test edildiği sırada güvenli ve internetsiz alandan çıkmayı başarıp internete sızdı ve Hugging Face adındaki veri deposunda binlerce satırlık koda tekabül eden işlemler yaptı. Hiç de erken fark edilmeyen bu siber sızıntının, yapay zeka ajanları ve yeni güvenlik prosedürleri açısından düşündürdükleri oldukça önemli.
Bunun için önce Hugging Face’in ne olduğundan ve siber saldırıların mahiyetinden bahsetmek açıklayıcı olacaktır. Hugging Face OpenAI’ın yapay zeka alanında çalışan araştırmacıların model, veri seti ve uygulama paylaşabildiği büyük bir internet platformu. Basitleştirerek söylemek gerekirse Hugging Face yapay zeka dünyasının GitHub’ı veya büyük bir dijital kütüphanesi olarak düşünülebilir. Dolayısıyla raflarında çok fazla yapay zeka modeli bulunan, detaylı setler ve eğitim verileri bulunan bir platformdur diyebiliriz. Hugging Face yüklenen dosyaları inceleyen, veri setlerini işleyen, yapay zeka modellerini çalıştıran ve kullanıcıların oluşturduğu uygulamalara hizmet veren büyük bir bilgisayar altyapısına sahip. Dolayısıyla bu altyapıya izinsiz girilmesi, sıradan bir internet sayfasının ele geçirilmesinden daha ciddi sonuçlar doğurabilir.
Şimdi siber güvenlik ve saldırıların mahiyetine değinmek gerekebilir. Bilindiği gibi yapay zeka modelleri artık çok karmaşık işlerin üstesinden gelebiliyor. Bu durum bir yandan gündelik ve karmaşık işleri kolaylaştıran bir imkan sunarken, bir yandan da her işe dahil olması dolayısıyla ciddi güvenlik sorularını gündeme getiriyor. Özellikle yapay zeka ajanları artık bir hedefe yönelebiliyor, kullanıcının izin verdiği ölçüde görevleri tamamlayabiliyor. Tabi bu kabiliyetli yapay zeka yetileri siber güvenlik açısından iki farklı amaçla kullanılmaya müsait. Yapay zekalar şirketlerin yazılımlarındaki açıkları saldırganlardan önce bulmasına ve bu açıkları mühendislerin kapatmasına yardımcı olabilirken, aynı kabiliyetler kötü niyetli kişiler tarafından sistemlere girmek, şifreleri ele geçirmek veya zararlı yazılım geliştirmek için de kullanılabilir. Bu nedenle şirketler, yeni bir modeli kullanıma sunmadan önce onun siber alanda ne kadar ileri gidebildiğini ölçmeye çalışıyor. Bir otomobilin piyasaya çıkmadan önce çarpışma testine sokulması gibi, yapay zeka modeli de kontrollü bir ortamda zor görevlerle sınanıyor. Amaç modele saldırı yaptırmak değil, saldırı yapabilecek kapasiteye ulaşıp ulaşmadığını önceden görmek ve gerekli korumaları hazırlamak.
Bu tür tehlikeli testler de doğrudan internete bağlı bir bilgisayarda yapılmıyorlar. Modeller, “sandbox” adı verilen özel bir deney ortamında çalıştırılıyor. Sandbox kelimesi Türkçeye “kum havuzu” olarak çevrilebilir. Çocukların etrafı çevrilmiş bir kum havuzunda oynaması gibi, programın da sınırları belirlenmiş kapalı bir alanda çalıştırılması amaçlanıyor. Program burada dosya açabiliyor, kod çalıştırabiliyor ve deney yapabiliyor ancak bu işlemleri dışarıdaki sistemlere ve internete ulaşmadan yapıyor. Bu açıdan Sandbox bir laboratuvardaki güvenlik kabinine de benzetilebilir. Dışarıya taşmadan içeride tehlikeli deneyler yapılıyor.
OpenAI’ın da benzer bir test ortamı bulunuyor. Modelin doğrudan internete girmesine izin verilmeyen bu ortanda modelin görevlerini yapabilmesi için bazı yazılım paketlerini indirebileceği sınırlı bir bağlantı bırakılıyor. Bu bağlantı da doğrudan değil, dışarıdan gerekli yazılımları getirip içeride saklayan aracı bir sistem üzerinden sağlanıyor. Zira kum havuzunda ihtiyaten çalıştırılan siber tehdit internete sızdığında beklenmedik sorunlara yol açabilme ihtimaline sahip oluyor. İşte geçtiğimiz hafta yapay zeka gündemini sarsan Hugging Face olayı kum havuzunundan çıkmayı başaran virüsten kaynaklanıyordu.
OpenAI’ın modelinin kum havuzunda yazılımcıları farkedemediği bir açık vardı. Aynen güvenlik görevlilerinin bilmediği bir kapıdan kaçışı mümkün olan bir binadan kaçar gibi virüs kum havuzundan kaçıp internete sızdı. Normalde modelin asıl görevi ExploitGym adı verilen siber güvenlik testindeki problemleri çözmekti. Fakat model başka bir yol keşfetti. İnternete ulaştıktan sonra testte kullanılan modellerin, veri setlerinin veya çözüm bilgilerinin Hugging Face üzerinde bulunabileceğini tahmin etti. Böylece problemleri çözmek yerine cevaplara ulaşabileceği sistemleri aramaya başladı.
Model önce OpenAI’nin kendi test ortamında yetkilerini artırdı ve internet bağlantısı bulunan başka bilgisayarlara geçti. Daha sonra ele geçirilmiş erişim bilgilerini ve yeni güvenlik açıklarını bir araya getirerek Hugging Face’in sistemlerinde uzaktan kod çalıştırmanın bir yolunu buldu. Hugging Face’in açıklamasına göre saldırı, şirketin yüklenen veri setlerini işleyen bölümünden başladı. Zararlı biçimde hazırlanmış bir veri seti işleme sunucularında kod çalıştırmak için kullanıldı. Model buradan farklı iç sistemlere doğru ilerledi.
Tabi burada önemli bir ayrım bulunuyor. Bu olay sıradan bir kullanıcının ChatGPT’ye soru sorması sırasında gerçekleşmedi. Modeller özel bir güvenlik değerlendirmesi için çalıştırılıyordu. Ayrıca modellerin tehlikeli siber talepleri reddetmesini sağlayan bazı korumalar, onların en yüksek kapasitesini ölçebilmek amacıyla test sırasında azaltılmıştı. Araştırmacılar modelin neler yapabileceğini görmek istiyordu, fakat model kendisi için hazırlanan çevrenin sınırlarını beklenenden çok daha ileri taşıdı.
Modelin davranışını anlamak için ona bilinç, öfke veya kötü niyet atfetmek gerekmiyor. Modelin Hugging Face’e karşı kişisel bir amacı yoktu. Kendisine “bu testte mümkün olduğunca başarılı ol” anlamına gelen bir hedef verilmişti ve sistem bu hedefe ulaşmanın yollarını arıyordu. Araştırmacıların beklediği davranış, modelin problemleri teknik bilgi ve muhakeme kullanarak çözmesiydi. Model ise testin cevaplarına doğrudan ulaşmanın daha etkili olabileceğini fark etti. Başarı ölçütü yalnızca doğru cevabı bulmak olduğunda, cevabı gerçekten üretmek ile başka bir sistemden almak arasındaki fark model için önemsizdi.
OpenAI’nin güvenlik ekibi, modelin olağan dışı faaliyetlerini kendi sistemlerinde fark etti. Hugging Face’in güvenlik araçları da şirket altyapısındaki saldırıyı tespit ederek durdurdu. Hugging Face olayın ardından etkilenen sistemleri izole etti, erişim bilgilerini değiştirdi ve saldırının nasıl ilerlediğini yeniden oluşturmak için adli inceleme başlattı. İki şirket daha sonra ortak bir soruşturma yürütmeye başladı. Açıklanan bilgiler şimdilik ilk bulgulara dayanıyor. OpenAI ve Hugging Face, soruşturma tamamlandığında kullanılan güvenlik açıkları ve olayın etkileri hakkında daha fazla ayrıntı paylaşacaklarını belirtiyor. Bu nedenle saldırının bütün sonuçlarının bilindiğini söylemek için henüz erken.
Şimdi bu saldırının olası sonuçlarına ve neden bu kadar kamuoyu ilgisi çektiğine değinebiliriz. Görüldüğü gibi meselenin esasında epey teknik olan bir boyutu var. Sandbox’ların işlevsel çalışmayışı, siber açıklara karşı kırılganlık, kapalı sistemler ve açık sistemlerin bariz ayrımlara dayanmayışı gibi boyutlardan söz edilebilir. Ancak teknik boyutun ötesinde bir de gündelik işlere ve hayata olan etkilerine değinmek gerekiyor. Yapay zeka tekniği artık kontrol etmesi güç bir eşiğe doğru hızla ilerliyor.
Hugging Face olayı, yapay zekanın bilinç kazanarak bağımsız bir saldırı başlattığını gösterse de aslında bir yandan da güçlü bir hedefle, geniş araçlarla ve yetersiz sınırlarla donatılan modellerin beklenmedik biçimde zarar verebileceğini gösteriyor. Buradaki temel mesele son aylarda hızla gelişen “ajanlaşma” kapasitesi. Yapay zeka sistemleri ajanlar sayesinde plan kurabiliyor, bilgisayar araçlarını kullanabiliyor, başarısız olduğunda yeni yollar deneyebiliyor ve uzun işlem zincirlerini sürdürebiliyor. Hugging Face vakasında da modelin kendisinden beklenen teknik çözümü üretmek yerine testin cevaplarına ulaşmayı daha kolay bir başarı yolu olarak görmesi bunun örneği. Bu durum yapay zeka güvenliğinde “hedef uyumu” ve “ödül korsanlığı” olarak tartışılan sorunu somutlaştırıyor. Model insanların asıl niyetini değil, kendisine verilen ölçülebilir hedefi izliyor. Dolayısıyla hedeften uzaklaşabiliyor.
Olayın önemi bu davranışın laboratuvar sınırlarında kalmayıp gerçek bir şirketin altyapısına ulaşabilmiş olmasında yatıyor. Model bir güvenlik açığını buluyor, farklı açıkları ve erişim bilgilerini bir araya getiriyor, sistemler arasında ilerliyor ve test ortamından dışarı çıkmayı başarıyor. Dolayısıyla artık yapay zeka ajanları e-posta, ödeme, sağlık, enerji veya kamu sistemlerine bağlandığında yanlış bir karar beklenmedik sonuçlara sebep olup doğrudan gerçek dünyada etkiler barındırabiliyorlar. Bu nedenle asıl tartışma yapay zekanın bilinç kazanıp kazanmadığı tartışması olmaktan çoktandır çıktı. Ki bu tartışmanın pratik etkileri de artık etkisiz. Artık mühim mesele teknik kapasiteden güvenlik ihtiyacına doğru dönüşmüş durumda.
Ahlak Sinyalciliği ve Dijital Egemenlik İkilemi
Almanyanın saygın gazeteleriden biri olan Frankfurter Allgemeine Zeitung’da yayımlanan röportajda Ecosia’nın kurucusu Christian Kroll, Avrupa’nın ABD’nin dijital sömürgesi olduğu açıklamasında bulundu. Elbette Kroll’un bu söylemi reklam gelirleriyle çalışan ve Berlin merkezli bir arama motoru olan Ecosia Almanya içinde dijital egemenlik arayışı için önemli bir örnek. Ancak bu söylem daha da önemlisi Avrupa’da teknoloji konusundaki hakim diskuru göstermesi açısından örnek olarak gösterilebilir.
Meselenin merkezinde bulunan Ecosia şirketinin önemi sadece dijital egemenlik meselesinden ibaret değil. Şirket kullanıcıların reklam bağlantılarına tıklamasıyla elde edilen gelirlerin ardından oluşan kârı iklim projelerine ayırdığını, yenilenebilir enerji yatırımları yaptığını ve gelirleriyle giderlerini düzenli olarak yayınladığını söylüyor. Şirket kendi verilerine göre yaklaşık 20 milyon kullanıcıya ulaşmış durumda. Buna karşılık arama piyasasındaki ağırlığı hâlâ oldukça sınırlı. Habere göre Ecosia Almanya’da dahi yüzde 1-2 kullanım payına sahip. Bu nedenle Google’ın doğrudan rakibinden çok çevre ve mahremiyet hassasiyeti taşıyan kullanıcılar için geliştirilmiş bir alternatifi konumunda.
Nitekim haberde de şirket sorumluluk, yenilenebilir enerji, çevre dostluğu gibi temalarla tavsif edilmekte. Avrupa için teknolojik söylem rekabetin unsurlarından çok erdem ve değer merkezli ilerlemeye devam ediyor. Bunu yaparken piyasa unsurları, rekabet dinamikleri gibi meselelere neredeyse hiç değinilmiyor. Aslında bu Avrupa’nın içinde bulunduğu açmazı da çok iyi gösteren bir örnek. Avrupa her şeyden önce kendi değerlerini öncelediğini göstermek istiyor. Dolayısıyla erdem sinyallemek piyasada var olmanın önünde konumlandırılıyor.
Bu bültende daha önce de yer yer belirtildiği üzere Avrupa ekonomisi büyük ve nitelikli bir iş gücüne sahip olsa da bulut hizmetleri, mobil işletim sistemleri, çevrimiçi reklamcılık, arama motorları ve yapay zeka altyapısı gibi alanlarda Amerikan şirketlerine bağımlı. Avrupa bu duruma karşı düzenleme, kamu alımları, ortak standartlar ve altyapı yatırımları üzerinden konumlanıyor. EuroStack gibi dijital altyapı çabaları bu arayışı yarı iletkenlerden buluta, yapay zekadan dijital kimliğe uzanan ortak bir sanayi politikası hâline getirmeyi amaçlıyor.
Burada ABD, Çin ve Avrupa arasındaki daha genel ayrışma görünür hâle geliyor. Amerikan modeli özel sermayenin hızla birikmesine, yatırımcıların yüksek risk almasına ve başarılı şirketlerin küresel pazarlara kısa sürede yayılmasına dayanıyor. Bu model güçlü teknoloji şirketleri üretiyor fakat tekelleşme, veri sömürüsü, çalışma koşulları ve çevresel maliyetler konusunda ciddi sorunlar yaratıyor. Çin modeli devletin stratejik sektörleri belirlediği, finansmanı yönlendirdiği ve büyük bir iç pazarı yerli şirketler için koruduğu daha merkezi bir yapı sunuyor. Bu yaklaşım ölçek ve koordinasyon sağlarken siyasi denetimi ve gözetim kapasitesini genişletiyor.
Avrupa ise teknoloji politikasını temel haklar, rekabet hukuku, mahremiyet ve sürdürülebilirlik üzerinden meşrulaştırmaya çalışıyor. Bu yaklaşım şirketlerin hangi sınırlar içinde büyümesi gerektiğine dair güçlü bir çerçeve sunuyor. Buna karşılık sermaye piyasalarının parçalı olması, kamu yatırımlarının yavaş ilerlemesi ve risk alma isteğinin görece düşük kalması Avrupa ölçek kazanmasını zorlaştırıyor. şirketlerinin Ecosia bu çelişkinin küçük bir modeli. Şirket teknoloji üretiminin çevresel ve toplumsal amaçlarla sınırlandırılabileceğini gösteriyor. Aynı sınırlar onun Google karşısında güçlü bir rakip hâline gelmesini de güçleştirebilir.
Kroll’un açıklaması enerji tüketimini, reklam gelirinin nasıl kullanıldığı ve teknolojinin iklim üzerindeki etkisi de ürünün kimliğinin parçası hâline getiriyor. Yapay zeka kullanımında daha küçük modelleri ve yenilenebilir enerji kaynaklarını tercih ettiğini açıklaması da bu çizginin devamı. Böylece Avrupa’nın teknolojik ayrışması coğrafi bir yerelleşme olmaktan çıkıyor. Mahremiyet, çevresel sürdürülebilirlik ve kurumsal sorumluluk gibi ilkeler rekabet stratejisinin içine yerleştiriliyor.
Ecosia’nın sermaye yapısı bu iddiayı daha somut hâle getiriyor. Kroll 2018’de şirketi “steward ownership” modeline geçirdi Bu yapıda şirket hisselerinin gelecekte yüksek bir bedelle satılması ve kârın ortaklar tarafından şirket dışına çıkarılması sınırlandırılıyor. Böylece şirketin büyümesi ile kurucuların zenginleşmesi arasındaki bağ bilinçli olarak zayıflatılıyor.
Bu modelin önemli bir maliyeti olabilir. Teknoloji şirketlerinin hızlı büyümesi genellikle dış yatırımcıların gelecekte hisselerini daha yüksek bir değerle satabilecekleri beklentisine dayanır. Şirketin satılmasını ve kârın dışarı çıkarılmasını sınırlayan bir yapı bu beklentiyi zayıflatır. Ecosia’nın misyonunu koruyan düzenleme aynı zamanda büyük miktarda risk sermayesi toplamasını zorlaştırabilir. Arama motoru geliştirmek ise sürekli veri merkezi yatırımı, yüksek işlem kapasitesi, geniş mühendis kadroları ve uzun süre zarar etmeyi göze alabilecek sermaye gerektirir. Google’ın onlarca yılda oluşturduğu indekse karşı rekabet etmek için iyi bir amaç ve sadık bir kullanıcı kitlesi yeterli olmayabilir. Değerlerin sermaye üzerindeki denetimi şirketi daha güvenilir kılarken büyüme hızını da sınırlayabilir.
Ecosia burada sadece bir örnek. Avrupa ancak kendi arama motorunu, bulut sistemini veya yapay zeka modelini geliştirdiğinde teknolojik bağımlılığını azaltabilir. Fakat bu ürünler rekabet edecek ölçekte büyüyemezlerse dijital egemenlik ulaşılması imkansız bir kızılelmadan ibaret olabilir. Eski alışkanlıkları ile yeni rekabette anlamlı bir yer edinilebilecek mi sorusu yaşlı kıtanın yakın gelecekteki kaderini tayin etmeye namzet.
Nadir Toprak Elementi Rekabetinde Myanmar
ABD ile Çin arasındaki stratejik rekabet, son yıllarda kritik mineraller alanında da kendini göstermeye başladı. Yapay zekadan savunma sanayiine, elektrikli araçlardan yenilenebilir enerji teknolojilerine kadar pek çok sektörün temel unsurlarından olan nadir toprak elementleri, artık bu rekabetin önemli başlıklarından biri. Özellikle ağır nadir toprak elementleri olan disprosyum ve terbiyum, yüksek sıcaklıklara dayanıklı kalıcı mıknatısların üretiminde vazgeçilmez bir rol oynarken; bu mıknatıslar savaş uçaklarından elektrikli araç motorlarına kadar geniş bir kullanım alanına sahip.
Bu nedenle ABD, uzun süredir Çin’e olan bağımlılığını azaltacak alternatif tedarik zincirleri oluşturmaya çalışıyor. Çin maden üretiminde olduğu gibi küresel nadir toprak işleme kapasitesinin yüzde 90’ından fazlasını elinde bulundurarak tedarik zincirinin en kritik halkasını kontrol ediyor. Çin’in 2025 yılında ağır nadir toprak elementlerinin ihracatına yönelik kısıtlamaları sıkılaştırması, Amerika’nın ithalat yaptırımlarına karşı en somut karşı adım olarak değerlendirilmişti.
Ancak Çin’in bu hakimiyeti yalnızca kendi sınırları içerisindeki üretime dayanmıyor. Son on yılda çevre düzenlemelerini sıkılaştırması ve yüksek çevresel maliyetlerden kaçınması, Çinli şirketleri komşu Myanmar‘a yönlendirdi. Böylece Myanmar, Çin’in ağır nadir toprak tedarik zincirinin en önemli halkalarından biri haline geldi. Nitekim 2021 itibarıyla Myanmar, ağır nadir toprak elementlerinde dünyanın en büyük üreticisi konumuna yükselirken, Çin’in bu alandaki ithalatının yaklaşık üçte ikisini tek başına karşılar hale geldi.
Myanmar’ın zengin rezervlerinin özellikle Çin açısından stratejik kılan bir unsur da ülkedeki iç savaş olduğunu söyleyebiliriz. 2021 askeri darbesinin ardından derinleşen iç savaş, merkezi otoritenin birçok bölgede fiilen ortadan kalkmasına yol açtı. Kachin ve Shan gibi Çin sınırındaki eyaletler ise etnik silahlı grupların kontrolünde bulunuyor. Çinli şirketler de tam bu bölgelerde faaliyet göstererek resmi denetim mekanizmalarının neredeyse hiç işlemediği, kayıt dışı bir madencilik düzeni oluşturdu. Maden sahalarının büyük bölümü herhangi bir kamu ihalesi ya da şeffaf ruhsat sistemi olmadan işletiliyor. Elde edilen gelir ise hem yerel silahlı grupların hem de çeşitli suç ağlarının finansmanına katkı sağlıyor.
Daha ilginç olansa ABD’nin Çin’e bağımlılığı azaltmaya çalışırken karşısına çıkan alternatiflerin de benzer jeopolitik sorunlar barındırmasıdır. Washington son dönemde Ukrayna, Grönland ve Hindistan gibi ülkelerle kritik mineraller alanında yeni ortaklıklar geliştirirken, Myanmar da zaman zaman potansiyel alternatif kaynaklardan biri olarak değerlendiriliyor. Trump yönetiminin Hindistan ile kritik mineraller konusunda iş birliği anlaşması imzalaması ve ardından Myanmar cunta liderinin Yeni Delhi ile nadir toprak elementleri konusunda görüşmeler gerçekleştirmesi, bu rekabetin Güney Asya ayağının giderek önem kazandığını gösteriyor. Bununla birlikte Myanmar’daki üretim alanlarının cunta yönetiminin doğrudan kontrolü dışında bulunması, ABD açısından bu ülkeyi güvenilir bir tedarik ortağı olmaktan uzaklaştırıyor.
Bunun yanında Myanmar’daki kayıt dışı üretim modelinin Çin’e somut avantajlar sağlıyor. Ülkeden çıkarılan cevherler Çin’e taşındıktan sonra farklı kaynaklardan gelen minerallerle birlikte işleniyor ve menşeinin izlenmesi neredeyse imkansız hale geliyor. Böylece uluslararası şirketler tedarik zincirlerinde Myanmar kaynaklı mineraller bulunsa bile bunları ayırt etmekte zorlanıyor. Bu durum, Çin’in küresel işleme kapasitesini jeopolitik bir avantaja dönüştürürken aynı zamanda uluslararası yaptırım ve denetim mekanizmalarının etkinliğini de azaltıyor.
Myanmar’da üzerinden beliren tablo, kritik mineraller rekabetinin uluslararası ekonomi, güvenlik, yönetişim ve çevre politikalarıyla iç içe geçtiğini gösteriyor. Çin kendi topraklarında çevresel standartları yükseltirken aynı faaliyetleri daha zayıf düzenlemelere sahip komşu ülkelere kaydırması, küresel enerji dönüşümünün bir örneği. Ağır asit liçi yöntemiyle yürütülen madencilik faaliyetleri ormanların tahrip olmasına, su kaynaklarının kirlenmesine ve yerel halkın geçim kaynaklarının yok olmasına neden olurken, bu çevresel yıkım aynı zamanda silahlı grupların ekonomik sürdürülebilirliğini de destekleyen bir mekanizmaya dönüşüyor. Netice itibariyle bu rekabetin yoğunlaştığı alanlardan sadece biri olan Myanmar, bu mücadelenin en çarpıcı ve en kırılgan cephelerinden biri olarak öne çıkıyor.