Hükümet uyardı: Musk, Grok AI'nın cinselleştirilmiş görüntüler üretme yeteneğiyle acilen ilgilenmeli | Bilim, İklim ve Teknoloji Haberleri
Teknoloji Bakanı Liz Kendall, Elon Musk'un X'inin “kesinlikle dehşet verici” sahte cinselleştirilmiş görüntüler oluşturmak için kullanılan yerleşik yapay zeka Grok'la acilen ilgilenmesi gerektiğini söyledi.
Ofcom Pazartesi günü “ciddi endişelerini” dile getirdi Sosyal medya platformunun yapay zeka aracıyla “insanların çıplak görüntüleri ve çocukların cinselleştirilmiş görüntüleri” oluşturulabiliyor.
Yeni yılın başlangıcından bu yana, başta kadınlar olmak üzere X kullanıcıları, hesapların Grok'u kendilerinin kıyafetsiz fotoğraflarını oluşturmak için kullandığını bildirdi.
Reuters haber ajansının analizine göre, Grok'un çocukların cinselleştirilmiş görüntülerini oluşturduğu birkaç vaka da var.
Bayan Kendall, “Son günlerde internette gördüklerimiz kesinlikle dehşet verici ve düzgün bir toplumda kabul edilemez” dedi.
“Hiç kimse internette kendisinin samimi deepfake'lerini görme sıkıntısını yaşamak zorunda kalmamalı.
“Kadınları ve kız çocuklarını orantısız bir şekilde hedef alan bu aşağılayıcı ve onur kırıcı görüntülerin yayılmasına izin veremeyiz ve vermeyeceğiz.
“X'in bu konuyla acilen ilgilenmesi gerekiyor. Ofcom'un bu konuyu acil olarak incelemesi kesinlikle doğru ve gerekli gördüğü her türlü yaptırım eylemini gerçekleştirme konusunda benim tam desteğime sahip.”
Sky News, uygulamada bikinili kendilerinin rızası olmayan deepfake'lerinin paylaşılmasının ardından çok sayıda kullanıcının tiksinti paylaştığını gördü.
X'in resmi güvenlik hesabında paylaşılan bir açıklamada şu ifadelere yer verildi: “Çocuklara Yönelik Cinsel İstismar Materyalleri (CSAM) de dahil olmak üzere X'teki yasa dışı içeriğe karşı, bunları kaldırarak, hesapları kalıcı olarak askıya alarak ve gerektiğinde yerel yönetimler ve kolluk kuvvetleriyle birlikte çalışarak harekete geçiyoruz.”
Daha önce Grok X hesabındaki bir gönderide, “kullanıcıların küçükleri minimal giyimli olarak tasvir eden AI görüntüleri talep ettiği ve aldığı münferit vakalar” olduğu belirtildi.
“xAI'nin korumaları var, ancak bu tür istekleri tamamen engellemek için iyileştirmeler devam ediyor” diye ekledi.
Cuma günü Fransız bakanlar, Grok on X tarafından oluşturulan müstehcen içeriği savcılara bildirdi ve “cinsel ve cinsiyetçi” içeriğin “açıkça yasa dışı” olduğunu söyledi.
X harekete geçmeye zorlanabilir mi?
Temmuz ayında tam olarak uygulanmaya başlayan Çevrimiçi Güvenlik Yasası uyarınca, yapay zeka kullanılarak yapılmış olsa bile birinin mahrem görüntülerini izni olmadan paylaşmak suç sayılıyor.
Yasa, deepfake'lerin çevrimiçi olarak paylaşılmasına olanak tanıyan şirketlerin 18 milyon £'a kadar veya dünya çapındaki nitelikli gelirlerinin %10'u kadar (hangisi daha büyükse) para cezasına çarptırılmasına izin veriyor.
Bu, şirket X gibi Birleşik Krallık dışında yerleşik olsa, ancak çok sayıda Birleşik Krallık kullanıcısı olsa veya Birleşik Krallık kullanıcılarına zarar verme potansiyeli olsa bile geçerlidir.
AB'nin de Dijital Hizmetler Yasası (DSA) adı verilen benzer bir düzenlemesi var ve şirketlere de ceza kesebiliyor.
Aslında, daha geçen ay, X'e DSA'yı ihlal ettiği için 120 milyon Euro (104 milyon £) para cezası verildi – bu, başkan yardımcısı JD Vance'in Avrupa'nın ifade özgürlüğü “sansürüne” saldıranlar arasında yer aldığı ABD'de şaşkınlığa neden olan bir hareketti. Keir Starmer ve diğer liderler bir savunma kurmak zorunda kalmak.
Devamını oku:
Trump yönetimi Avrupa'nın çevrimiçi kurallarından neden bu kadar rahatsız?
Aralık ayında, Trump yönetimi İngiliz ve Avrupalı çevrimiçi güvenlik kampanyacılarına yaptırım uyguladı “Amerikan bakış açılarını” sansürlemekle suçladı.
Ancak ABD'de bazı gruplar da yetkilileri xAI'ye karşı harekete geçmeye çağırıyor.
Amerika Tüketici Federasyonu (CFA) Pazartesi günü Federal Ticaret Komisyonu'na, Federal İletişim Komisyonu'na, Adalet Bakanlığı'na ve tüm başsavcılara hızlı harekete geçilmesini talep eden bir yazı yazdı.
CFA Yapay Zeka ve Veri Gizliliği Direktörü Ben Winters, “xAI, platformlarındaki insanları kasıtlı ve pervasızca tehlikeye atıyor ve sırf 'AI' olduğu için hesap verebilirlikten kaçınmayı umuyor” dedi.
“Yapay zekanın diğer ürünlerden hiçbir farkı yok; şirket yasayı çiğnemeyi seçti ve bundan sorumlu tutulması gerekiyor.”
