Güney Kore'de Deepfake Seks Videoları Yeni Teknolojiyle Eski Kadın Düşmanlığı Olarak Görülüyor

2020 yılında Güney Koreli yetkililer, genç kadınları izleyiciler için para karşılığında cinsel içerikli videolar çekmeye zorlayan bir şantaj şebekesini takip ederken, sosyal medyanın karanlık köşelerinde dolaşan başka bir şey buldular: Başkalarının yüzlerinin kaba bir şekilde eklendiği pornografik görüntüler.

Bu erken deepfake pornografi girişimleriyle ne yapacaklarını bilmiyorlardı. Sonunda, Ulusal Meclis bunu yapan ve dağıtanlara karşı belirsiz bir şekilde ifade edilmiş bir yasa çıkardı. Ancak bu, yapay zeka teknolojisini kullanan ve ülkenin kadın düşmanı çevrimiçi kültürünü yeni derinliklere taşıyan bir suç dalgasını engellemedi.

Güney Koreliler, son iki haftada giderek artan sayıda genç erkeğin ve ergenlik çağındaki oğlan çocuğunun, sınıf arkadaşlarının, öğretmenlerinin ve asker meslektaşlarının (hepsi genç kadın ve kız çocukları, hatta küçükler bile) sosyal medya fotoğraflarını çekip, bunları deepfake uygulamalarıyla cinsel istismar içerikli görüntüler ve video klipler oluşturmak için kullandığını öğrenince şoke oldu.

Şifreli mesajlaşma servisi Telegram'daki sohbet odaları aracılığıyla materyali yaydılar, bazıları 220.000'e kadar üyeye sahip. Deepfake'ler genellikle kurbanın yüzünü pornografiden alınmış cinsel açıdan açık bir pozdaki bir vücutla birleştiriyor. Araştırmacılar, teknolojinin o kadar karmaşık olduğunu ve sıradan insanların sahte olduklarını anlamasının genellikle zor olduğunu söylüyor. Ülke bu tehdidi ele almak için çabalarken, uzmanlar Güney Kore'de yeni teknolojilere duyulan coşkunun bazen etik etkileriyle ilgili endişeleri geride bırakabildiğini belirtti.

Ancak birçok kadın için bu deepfake'ler, ülkelerindeki köklü bir kadın düşmanlığının çevrimiçi ortamdaki en son ifadesi. Bu kültür, artık çevrimiçi ortamda kadınların cinsel açıdan aşağılayıcı görüntülerini paylaşmayı eğlenceli bulan genç erkekler üretiyor.

“Kore toplumu kadınlara insan olarak davranmıyor,” dedi üniversitesi öğrencilerin mağdur edildiği yüzlerce ortaokul, lise ve kolejden biri olan Lee Yu-jin. Hükümetin “arkadaşların fotoğraflarını çalıp cinsel aşağılama için kullanmak dijital bir kültür haline gelmeden önce” neden daha fazlasını yapmadığını sordu.

Çevrimiçi cinsel şiddet küresel olarak büyüyen bir sorundur, ancak Güney Kore öncü konumdadır. Deepfake sorununu başarılı bir şekilde ele alıp alamayacağı ve nasıl ele alabileceği, başka yerlerdeki politika yapıcılar, okul yetkilileri ve kolluk kuvvetleri tarafından izlenecektir.

Ülkede ara sıra ortaya çıkan cinsel suçların bir alt yüzü var. Bir Güney Koreli, çocuk cinsel istismarı görüntüleri için dünyanın en büyük sitelerinden birini yönetmekten suçlu bulundu. Bir K-pop sanatçısı, bir gece kulübü aracılığıyla fuhuşu kolaylaştırmaktan suçlu bulundu. Polis, yıllardır casus kamera pornosuyla mücadele ediyor. Ve 2020'de araştırılan şantaj şebekesinin beyni, Telegram sohbet odaları aracılığıyla çevrimiçi olarak sattığı videoları yapmak için genç kadınları, gençler de dahil olmak üzere kandırdığı için 40 yıl hapis cezasına çarptırıldı.

Kullanımı kolay deepfake teknolojisinin yükselişi, bu tür cinsel şiddet biçimlerine sinsi bir boyut ekledi: Mağdurlar, anonim bir mesaj veya polisten bir çağrı alana kadar genellikle mağdur olduklarının farkında olmuyorlar.

'Köle', 'Tuvalet', 'Paçavra'

Gizliliğini korumak için adı gizli tutulan 30 yaşındaki bir deepfake mağduruna yönelik saldırı, 2021 yılında Telegram'da “Merhaba!” yazan anonim bir mesajla başladı.

Sonraki birkaç saat içinde, sosyal medyada paylaştığı aile gezisi fotoğraflarından alınan yüzünün yer aldığı bir dizi küfür ve deepfake görüntü ve video klipleri geldi. Vücuduna “köle”, “tuvalet” ve “paçavra” gibi kelimeler yazılmıştı.

Nisan ayında, polisten Seul Ulusal Üniversitesi'ndeki eski sınıf arkadaşlarından ikisinin gözaltına alınanlar arasında olduğunu öğrendi. Saygın üniversitenin erkek mezunları, suç ortaklarıyla birlikte, aralarında bir düzine eski Seul Ulusal öğrencisinin de bulunduğu çok sayıda kadını deepfake pornografiyle hedef almıştı. Gözaltına alınan erkeklerden biri geçen ay beş yıl hapis cezasına çarptırıldı.

“Bana böyle davranmalarının hiçbir sebebini düşünemiyorum, sadece kadın olmam dışında,” dedi. “Etrafımda onlar gibi insanların olması, diğer insanlara olan inancımı kaybetmeme neden oldu.”

Saldırıdan beri travmayla mücadele ettiğini söylüyor. Akıllı telefonuna gelen bir mesaj bildirimi veya anonim bir çağrı aldığında kalbi hızla çarpıyor.

Pop kültürü dünya çapında ihraç edilen Güney Kore, ABD merkezli siber güvenlik firması Security Hero tarafından yayınlanan “2023 State of Deepfakes” araştırmasına göre, deepfake pornografisine karşı en savunmasız ülke haline geldi ve şarkıcılar ve aktrisler, deepfake mağduru olan bireylerin yüzde 53'ünü oluşturuyor. Önde gelen K-pop ajansları, kanıt topladıklarını ve yaratıcılarına ve dağıtımcılarına karşı dava açmakla tehdit ettiklerini söyleyerek deepfake'lere savaş açtı.

Yine de sorun yoğunlaşıyor. Güney Kore polisi, Ocak ve Temmuz ayları arasında 297 deepfake seks suçu vakası bildirdi; bu, bu tür verilerin ilk toplandığı 2021'in tamamında 156 vakayla karşılaştırıldığında daha yüksek.

Geçtiğimiz ay, yerel haber medyası Telegram'daki deepfake içeriklerinin yoğun trafiğini ifşa edene kadar, Başkan Yoon Suk Yeol hükümetine “bunları kökünden kazı” emrini vermemişti. Bay Yoon'un eleştirmenleri, 2022 başkanlık kampanyası sırasında Güney Kore'de yapısal cinsiyete dayalı ayrımcılık olduğunu reddettiğini ve cinsiyet eşitliği bakanlığını kaldıracağına söz verdiğini belirtti.

Bu yıl deepfake'lerdeki artışa ilişkin haber kapsamı, genç kadınlar arasında paniğe yol açtı; birçoğu, deepfake'lerde kullanılacağından korktukları için sosyal medya hesaplarından özçekimlerini ve diğer kişisel fotoğraflarını sildi. Geçtiğimiz ay Seul Metropolitan Eğitim Ofisi'nde görev almadan önce ortaokul müdürü olan Chung Jin-kwon, eski okulunun yıllıklardan öğrenci fotoğraflarının çıkarılıp çıkarılmayacağını görüştüğünü söyledi.

Bay Chung, “Bazı öğretmenler fotoğraflarının orada olmasını reddedip, yerine karikatürlerini koymuştu” dedi.

Dünyanın en bağlantılı ülkelerinden biri olan Güney Kore'deki gençler, erken yaşlardan itibaren teknoloji meraklısı oluyor. Ancak eleştirmenler, okul sisteminin onları çok önemli üniversite giriş sınavlarına hazırlamaya o kadar odaklandığını söylüyor ki, yeni teknolojiyi etik bir şekilde nasıl kullanacakları öğretilmiyor.

“Sınav-problem-çözme makineleri üretiyoruz,” dedi Bay Chung. “Onlar değerleri öğrenmiyorlar.”

Daha Sert Yasalar İçin Bir Baskı

2019'dan beri dijital cinsel istismara karışmış 200 gençle ilgilenen ekibiyle Seul şehir yetkilisi Kim Ji-hyun, bazı erkeklerin eski kız arkadaşlarından intikam almak için deepfake kullandığını ve bazı durumlarda kızların sınıf arkadaşlarını dışlamak için kullandığını söyledi. Ancak Bayan Kim, birçok gencin ilk olarak meraktan deepfake'lere ilgi duyduğunu söyledi.

Sohbet odası operatörleri, Starbucks kuponları da dahil olmak üzere teşviklerle onları cezbetti ve tanıdıkları kadınların fotoğraflarını ve kişisel verilerini vermelerini istedi. Hükümet tarafından finanse edilen Kore Kadın İnsan Hakları Enstitüsü'nde ekip lideri olan ve dijital seks suçlarını araştıran ve mağdurlara yardım sağlayan Park Seong-hye, “tecavüz ve aşağılama odaları” olarak adlandırılan bazı Telegram kanallarının belirli okullardan bireyleri veya kadınları hedef aldığını söyledi.

2020'de yürürlüğe giren yasaya göre, cinsel içerikli veya taciz edici deepfake'ler yapıp bunları dağıtmak amacıyla hüküm giyen kişiler beş yıla kadar hapis cezasına çarptırılabilir. Bu tür içerikleri dağıtarak maddi olarak kar elde etmeye çalışanlar yedi yıla kadar hapis cezasına çarptırılabilir. Ancak deepfake'leri satın almaya, saklamaya veya izlemeye karşı bir yasa yoktur.

Araştırmacıların deepfake sohbet odalarına erişmek için gizli göreve çıkmaları için mahkeme onayına sahip olmaları gerekir ve bunu yalnızca küçüklerin cinsel tacize uğradığına dair raporları araştırmak için yapabilirler. Süreç ayrıca yavaş olabilir.

Ulusal Polis Teşkilatı'nda çevrimiçi suçlar konusunda kıdemli araştırmacı olan Hahm Young-ok, “Tatilde bir sohbet odası bulursunuz, ancak mahkeme onayını aldığınızda o oda ortadan kaybolmuştur” dedi.

Hükümet, cinsel açıdan sömürücü deepfake içerikleri satın almaya veya görüntülemeye karşı daha sert yasalar çıkarma sözü verdi. Bu ay, son deepfake içeriklerini araştıran polis, altısı genç olmak üzere yedi erkek şüpheliyi gözaltına aldıklarını söyledi.

Pornografi Güney Kore internetinde sansürleniyor, ancak insanlar sanal özel ağları kullanarak kontrolleri aşabiliyor ve yasağın sosyal medya kanallarında uygulanması zor. Polis, Telegram'ın deepfake seks suçlarına yardım edip etmediğini araştırabileceklerini belirtti. Geçtiğimiz ay, Telegram'ın kurucusu Pavel Durov Fransa'da tutuklandı ve çocuk cinsel istismarı materyalinin dağıtımını sağlamak da dahil olmak üzere bir dizi suçla suçlandı.

Telegram, yaptığı açıklamada, “Hizmet şartlarını ihlal ettiği bildirilen Kore içeriklerini aktif olarak kaldırıyoruz ve kaldırmaya devam edeceğiz” dedi.

Bu arada hükümet, çevrimiçi platformların deepfake pornografisi gibi içerikleri filtrelemek için daha fazla şey yapmasını zorlaması yönünde baskı görüyor.

Kyonggi Üniversitesi'nde adli psikoloji profesörü olan Lee Soo-jung, “Platformları korumak ile çocuklarımızı ve ergenlerimizi korumak arasında seçim yapma zamanı geldi” dedi. “2024'te şu anda gördüğümüz şey 2020'de önceden haber verilmişti, ancak bu arada hiçbir şey yapmadık.”