Geçtiğimiz ay OpenAI’ın ses klonlama araçlarıyla bilinen Weights.gg adlı girişimi satın aldığı haberi duyuruldu.1 Weights.gg kullanıcıların ünlülere, siyasetçilere, müzisyenlere veya kurgusal karakterlere benzeyen yapay ses modelleri oluşturabildiği araçlarıyla tanınıyordu. Şirketin Replay adlı uygulaması ses klonlama teknolojisinin tüketici tarafındaki daha serbest ve gri alanlarından birini temsil ediyordu. Habere göre OpenAI bu girişimin fikri mülkiyetini ve ekibini bünyesine katıp Weights.gg’in platformunu kapattı. Yani OpenAI görünürde riskli bir teknolojik ürünü piyasadan çekerken aynı zamanda o ürünün arkasındaki teknik bilgi ve ekibi kendi bünyesine katmış oldu.
Ses klonlama ne OpenAI ile başladı ne de bugün ortaya çıktı. 2016’da DeepMind’ın WaveNet modeli ve Adobe’un Project VoCo demosuyla temelleri atılan bu teknoloji, 2023’te Microsoft’un VALL-E modeliyle üç saniyelik ses örneğinden taklit yapabilir noktaya geldi. Bugün ElevenLabs gibi şirketler ses üretimini hızla ürünleştiriyor. Metinden sese çeviri, dublaj, ses klonlama ve sesli ajanlar artık ayrı niş ürünler değil, müşteri hizmetlerinden reklama, podcast üretiminden oyunlara uzanan geniş bir altyapıya dönüşüyor.
Pek çok alanda çeşitli kullanım imkanı veren bu gelişmenin cazibesi oldukça büyük. Görme engelli kullanıcılar için kişiselleştirilmiş sesler, ALS gibi hastalıklar nedeniyle konuşma yetisini kaybeden kişiler için sesin korunması, film ve oyun sektöründe hızlı dublaj, küçük içerik üreticileri için profesyonel seslendirme, eğitim materyallerinin farklı dillere aktarılması gibi güçlü kullanım alanları var. Dolayısıyla ses klonlama teknolojisini yalnızca kötüye kullanım üzerinden okumak eksik bir okuma olur.
Ancak ses sıradan bir veri parçası değil. Ses her şeyden önce insanın kimliğinin ayrılmaz bir parçası. Üstelik güven oluşturma açısından da çok önemli bir unsur zira çoğu zaman insanlar nezdinde söylem yazıdan daha etkilidir. Bu yüzden ses klonlama görsel deepfake’lerden bile daha sinsi bir risk taşıyabilir. Bir telefonun ucunda duyulan tanıdık ses insanın eleştirel mesafesini hızla düşürür. Nitekim son iki yıldır bu riskler bazı alanlarda tahakkuk etti. ABD’de Joe Biden’ın sesini taklit eden yapay zeka telefon aramaları (robocall), seçmenleri sandığa gitmemeye teşvik etti. Bu olay siyasi ses deepfake’lerinin seçim güvenliği açısından ne kadar somut bir tehdit olduğunu gösterdi. Aile bireylerinin sesini taklit ederek para isteyen dolandırıcılık vakaları da tüketici koruma örgütlerinin gündemine girdi.
Yine de bu mesele yeteri kadar tartışılmıyor. Bunda önemli bir etmen dikkatli bir dinlemede hangi sesin doğal, hangi sesin yapay olduğunu tespit edilebileceğine dair bir inancın hakim olması olabilir. Ancak UCL araştırmacılarının 2023’te PLOS ONE’da yayımladığı çalışma2 insanların ses deepfake’lerini güvenilir biçimde ayırt edemediğini gösterdi: 529 katılımcı gerçek ve yapay konuşmaları dinlediğinde, deepfake’leri yalnızca yaklaşık yüzde 73 doğrulukla tespit edebildi. Yüzde 73 oranda doğruluk kulağa ilk başta yüksek gelebilir. Ancak yüzde 27 oranında aldatılabiliyor olmak kusursuz olmasa bile yeterince inandırıcı olunduğunda banka doğrulamasından aile içi dolandırıcılığa, seçim manipülasyonundan sanatçı haklarına kadar çok geniş bir risk alanı doğuruyor. Ayrıca bu oranın teknolojinin gelişimiyle çok da uzak olmayan bir gelecekte daha çok büyüyeceğini öngörmek hiç de zor değil. Dolayısıyla yapay zekanın ses ile etkileşimini şimdiden irdelenmesi önem arz etmektedir. Bunun için de meselenin taraflarının nasıl pozisyonlandıklarını incelemek gerekmektedir.
Sesleri kullanılan kişiler için mesele hem ekonomik hem ahlaki. Bir sanatçının sesi izinsiz kopyalanıp reklamda, şarkıda, oyun karakterinde veya sosyal medya içeriğinde kullanıldığında hem emeği hem itibarı sömürülmüş oluyor. Dahası mesele sadece sesin birebir kopyalanmasından ibaret değil. Bazı durumlarda ses birebir kopyalanmamış olsa bile oldukça yakın bir tınıya sahip olabiliyor. Buna örnek olarak Scarlett Johansson’ın OpenAI’nin “Sky” sesinin kendi sesine benzediğine dair tepkisi3 gösterilebilir. OpenAI sesin başka bir oyuncuya ait olduğunu savunsa da olay “birebir klonlama” ile “ayırt edilebilir biçimde benzetme” arasındaki sınırın ne kadar bulanık olduğunu gösterdi.
Bu konudaki itirazlar regülasyon cephesinde de kayda değer bir ivmelenmeye neden oldu. ABD’de FCC, yapay zeka ile üretilen robocall seslerinin mevcut telefon tüketici koruma yasaları kapsamına girdiğini açıkladı. Bu sayede özellikle izinsiz otomatik aramalarda yapay zeka üretimi ses kullanımını daha açık biçimde hukuki hedef haline getirdi. Tennessee’nin ELVIS Act yasası ise sanatçıların sesini açıkça koruma altına alarak önemli bir örnek oluşturdu. Kaliforniya da oyuncuların ve ölmüş sanatçıların dijital replikaları konusunda düzenlemeler yaptı. Bu düzenlemeler yapım şirketlerinin oyuncuların dijital kopyalarını sözleşmelerde açık biçimde tanımlamasını ve belli durumlarda izin almasını gerektiriyor. Avrupa Birliği’nin AI Act yaklaşımı ise daha çok şeffaflık, etiketleme ve deepfake içeriklerin yapay olduğunun belirtilmesi üzerinde duruyor. Yani regülasyonlar temelde rıza, açıklama ve kötüye kullanımın cezalandırılması odaklı ilerliyor.
Yapay zeka şirketleri ise eleştiriler karşısında pozisyonlarında büyük bir değişime gitmiş değil. Sektör bu teknolojiyi daha güvenli, daha izlenebilir ve daha lisanslanabilir hale getirerek büyütmeye çalışıyor. OpenAI, Voice Engine’i temkinli biçimde sınırlı testte tutup rıza, açıklama ve kullanım takibi gibi önlemlerden söz etti. Google DeepMind, SynthID ile yapay zeka üretimi seslere görünmez filigran ekleme yaklaşımını geliştirdi. Meta, AudioSeal gibi ses filigranlama ve tespit sistemleri üzerinde çalıştı. ElevenLabs ise hem ses klonlama ürünlerini büyüttü hem de izin, kötüye kullanım yaptırımları ve tespit araçlarını öne çıkardı.
Ancak biraz yakından bakıldığında bu yoğun tartışma bulutunun aslında çok dar bir çerçevede kümelendiği görülüyor. Birbirinden farklı pozisyonlanan tüm görüşler esasında piyasa aktörlerinin menfaatleri doğrultusunda serdediliyor. Söz gelimi sesi kullanan şirketler meseleye daha klasik liberal mülkiyetçi perspektiften bakarak belli başlı lisanslama ve regülasyon şartlarını kabul etmek şartıyla bu seslerin hem model eğitiminde hem de nihai ürünlerde kullanılabileceğini savunuyor. Sesi kullanılan kişiler ise rızalarının gerçekten alınmasını ve maddi olarak haklarının verilmesini talep ediyor. Devlet ise liberal düzen ütopyasının biçtiği role muvafık olarak piyasadaki bu ihtilaflara bir hakem edasıyla yaklaşıyor.
Yani piyasadaki tartışmalar “ses klonlama olsun mu olmasın mı?” sorusunu çoktan aştı. Artık tartışmanın makbul çerçevesi, “Kimin sesi kopyalanabilir? Hangi izinle, hangi amaçla, nasıl etiketlenir? Geliri kime gider? Kötüye kullanımda sorumluluk platformda mı, kullanıcıda mı, modeli geliştiren şirkette mi olur?” sorularıyla şekilleniyor. Esasında bu, son yıllardaki teknolojik gelişmelerde bilhassa yapay zeka ile alakalı çetrefilli meselelerde alışageldiğimiz bir örüntü. Genellikle önce önemli bir teknolojik gelişme duyuruluyor, kamuoyunda lehte ve aleyhte yoğun bir reaksiyon oluşuyor, devletler ve uluslararası organizasyonlar ise bu gelişmeleri takip eden regülasyonlar ile durumu kontrol altına almaya çalışıyor. Ancak bu gelişme dört başı mamur biçimde tartışılamadan o alanda yeni bir gelişme daha ortaya çıkıyor ve döngü baştan başlıyor. Dolayısıyla tartışmalar da öyle ya da böyle sektördeki büyük teknoloji oyuncularının dikte ettiği çerçeveye mahkum kalıyor.
Tam da burada yüz yıl önce Georg Simmel’in büyük kent hayatının insan zihnine etkisini incelerken yaptığı, küçük kent veya kırsal yaşamın aksine büyük kentlerin içerdiği uyaran sayısının yoğunluğunun insanları kayıtsızlığa ittiği tespitini4 hatırlamak gerekir. Zira bugün metropol hayatının keşmekeşine bir de sanal katman ve onun yapay zeka araçlarının ürettiği uyaranlar da eklendi. Dolayısıyla kamuoyundaki edilgen tavır bu insan zihninin kaldırabileceğinden daha çok uyarana maruz kalmanın doğurduğu kayıtsızlıkta aranmalıdır. Simmel’in bu tespiti yalnızca tartışmanın neden dar çerçevede olduğunu açıklamak için değil, ileride mevcut çerçevenin rıza merkezli konumlandırılmasının tartışılması açısından da önemli bir katman oluşturacak.
Söz konusu dar çerçeveden sıyrılmak için esas tartışılması gereken mesele insanın kendisine ait olan şeyleri nereye kadar kendinden bağımsız bir şekilde metalaştırabileceği meselesi. İnsanlar için seslerini para kazanmak için kullanmak elbette yeni bir olgu değil. Ancak sesin nerede ne şekilde kullanılacağı her zaman sesin sahibinin inisiyatifinde olagelmiştir. Kayıt teknolojilerinin yaygınlaştığı, sesli eserlerin telif hakkının başkalarına devredilebildiği modern zamanlarda bile ses, sahibinin kullandığı otantik haliyle kullanılmıştır. Dolayısıyla sesin başka aktörler tarafından sesin sahibinin bir dahli olmadan model eğitimi, dublaj, ses klonlama gibi alanlarda kullanılması oldukça yeni bir tartışma sahası. Sesin bu yeni teknolojilere alan açacak kadar metalaştırılması kabul edildiğinde ise sınırların hangi temel umdelere göre çizileceği de tartışılmalı.
Daha önce de belirtildiği üzere, tartışmalar sesin yapay zeka ile ilişkili kullanılmasında bir genel kabulün varlığı varsayımıyla yapılmaktadır. Öyle ki bizzat seslerinin yapay zekanın eğitim ve ürün malzemesi olmasından şikayetçi olanlar dahi şikayetlerini rıza kavramı etrafında şekillendirmektedir. Dolayısıyla buradaki temel varsayım, böyle bir konuda rıza vermenin meşru ve mümkün olmasıdır.
Burada rızanın meşruiyeti ayrı bir bahis olmakla birlikte, imkanı da kendi içinde oldukça tartışmalıdır. Ses üretimi ve klonlama alanındaki bazı platformların kullanım şartları; kullanıcı tarafından yüklenen ses kayıtlarına, ses modellerine veya içeriklere ilişkin oldukça geniş lisanslar tanımlar. Bu lisanslar çoğu zaman hizmeti sunmak, ürünü geliştirmek, ya da model kalitesini artırmak gibi makul görünen amaçlarla gerekçelendirilir. Sorun ses gibi kişiliğe bağlı bir unsurun bu geniş ve teknik kategoriler içinde bağlamından koparılabilmesidir. Nitekim ses oyuncularının açtığı bazı davalarda başta sınırlı bir iş için verilen kayıtların daha sonra yapay zeka ses modellerine ve ticari sentetik ses hizmetlerine dönüştürüldüğü iddia edildi. Bütün bunlar ses klonlama ekonomisinde hak devrinin çoğu zaman açık bir satış işlemi gibi değil, platform şartları, standart sözleşmeler ve mesleki kayıt ilişkileri içinde sessizce gerçekleştiğini gösteriyor.
Bu noktada Margaret Jane Radin’in “boilerplate” eleştirisi tartışmaya farklı bir pencereden bakma imkanı sağlayabilir. 5 "Boilerplate” Türkçede genel işlem şartları ya da standart sözleşmelerin küçük yazıları olarak çevrilen ve hemen hemen her sektörde satışta karşılaşılan şartlardır. Bunlar hem satın alımda uzun ve küçük puntoyla yazılmış sözleşmeleri okumanın zorluğu hem de artık hayatın her alanında kullanılıyor oluşunun getirdiği normalleşme ve alternatifsizlik hissi nedeniyle insanların yaptıkları sözleşmelerde okumadan onayladıkları sözleşme hükümleridir. Dolayısıyla tarafların gerçekten pazarlık etmediği, güçlü tarafça önceden hazırlanmış ve çoğu zaman hızlıca “kabul ediyorum” denilerek yürürlüğe giren bu şartlar bütün sözleşme teorilerinin temelindeki rıza varsayımını tartışmaya açar: Ortada biçimsel olarak bir kabul olsa da bu kabulün gerçekten özgür, bilinçli ve müzakereye dayalı olup olmadığı şüphelidir.
“Boilerplate” ve rıza eleştirisi yapay zeka ve ses kullanımı açısından önemli bir hususa işaret etmektedir. Çünkü yapay zeka ekonomisinde kişinin sesi çoğu zaman açık bir satış işlemiyle değil, standart sözleşmelerin küçük yazılarıyla dolaşıma girer. Kullanıcı bir uygulamaya ses yükler, bir platformun kullanım şartlarını kabul eder, bir seslendirme sanatçısı standart bir kayıt sözleşmesi imzalar. Fakat bu sırada sesin ileride model eğitimi, ürün geliştirme, sentetik ses üretimi veya başka ticari kullanımlar için nasıl işleneceğini gerçekten müzakere etmez. Burada Radin’in eleştirdiği anlamda şartları açıkça okunmamış, pazarlık edilmemiş, çoğu zaman alternatif yokluğunda verilmiş bir rıza vardır. Ses gibi kişiliğe sıkı sıkıya bağlı bir unsurun böyle bir rızayla devredilebilir hale gelmesi, rızanın imkanını da tartışmaya açar. İnsan kendi sesini gerçekten satmasa da sesinin gelecekteki kaderi üzerindeki denetimini kaybeder.
Burada tekrar Simmel’in fazla uyaran karşısında kayıtsızlık tespitine dönmek gerekir. Bugün hemen hemen her yeni teknolojinin bir “boilerplate’i” var. Ancak teknolojik gelişimlerin baş döndürücülüğü insanları adeta çoklukta gizlenmiş şartları görmezden gelmeye itiyor. Zira insan zihninin bu denli yüksek doz teknoloji uyaranını kapsayabilmesi oldukça zor. Dolayısıyla buradaki en temel meydan okuma, teknoloji okur yazarlığının teknolojik gelişim trenine yetişebilmesidir.
Görüldüğü üzere ilk başta basit gözüken bir satın alım haberi ve yapay zeka eliyle sesin klonlanması gibi spesifik bir konu dahi esastan tartışıldığında, kaçınılmaz olarak büyük soruları gündeme getiriyor. Ancak büyük sorular dar çerçevelere hapsedilmiş, varsayımları ve sınırları zaten belirlenmiş tartışmalardan neşet etmez. Teknoloji ve insan ilişkisine dair akıl yürütmelerle ilgili belki de almamız gereken en önemli ders, insana dair büyük soruların vazgeçilmezliğini anlamaktır. Ancak bu şekilde tartışmaların içine hapsolduğu dar çerçevelerin dışında bir söz söyleme imkanı oluşur. Gök kubbede baki kalmasını umduğumuz sadamızı hoş ve hür kılacak olan da budur.
OpenAI Bought Company That Offered A.I. Tools for Cloning Voices,” The New York Times, 15 Mayıs 2026, https://www.nytimes.com/2026/05/15/technology/openai-weightsgg-voice-cloning.html
Kimberly T. Mai vd., “Warning: Humans Cannot Reliably Detect Speech Deepfakes,” PLOS ONE 18, sy. 8 (2023): e0285333, https://doi.org/10.1371/journal.pone.0285333
Anna Tong ve Jeffrey Dastin, “Scarlett Johansson Says OpenAI Chatbot Voice ‘Eerily Similar’ to Hers,” Reuters, 21 Mayıs 2024, https://www.reuters.com/technology/scarlett-johansson-says-openai-chatbot-voice-eerily-similar-hers-2024-05-21/
Georg Simmel, “Die Großstädte und das Geistesleben,” içinde Georg Simmel Gesamtausgabe, c. 7, Aufsätze und Abhandlungen 1901–1908, c. 1, haz. Rüdiger Kramme, Angela Rammstedt ve Otthein Rammstedt (Frankfurt am Main: Suhrkamp, 1995).
Margaret Jane Radin, “From Baby-Selling to Boilerplate: Reflections on the Limits of the Infrastructure of the Market,” Osgoode Hall Law Journal 54, sy. 2 (2017): 339–360. https://digitalcommons.osgoode.yorku.ca/ohlj/vol54/iss2/2/?utm_