Birleşik Krallık gözlemcisi, X'in yapay zekası Grok tarafından üretilen yasa dışı çocuk istismarı materyallerinin | Bilim, İklim ve Teknoloji Haberleri
Internet Watch Foundation (IWF), suçluların Elon Musk'un yapay zekası Grok'u çocuklara yönelik cinsel istismar görüntüleri oluşturmak için kullandığını bildirdi.
IWF günlerdir internet kullanıcılarından Grok'un çocuk istismarı görüntüleri oluşturduğuna, ancak bu içeriğin yasa dışı içerik eşiğini aşmadığına dair raporlar alıyor.
IWF, artık öyle olduğunu söylüyor.
Dünya çapında çocuk istismarı materyallerini proaktif bir şekilde takip etmesine izin verilen ve materyali karanlık bir web forumunda bulan az sayıdaki kuruluştan biridir.
Materyali paylaşan kullanıcılar, bunu oluşturmak için Grok'u nasıl kullandıklarıyla övündüler.
IWF yardım hattı başkanı Ngaire Alexander, “Yapay zeka sohbet robotu Grok'un çocukların cinsel görüntülerini oluşturduğuna dair raporların ardından, analistlerimizin, araç kullanılarak oluşturulmuş gibi görünen 11 ila 13 yaşları arasındaki çocuklara yönelik suç görüntüleri keşfettiğini doğrulayabiliriz” dedi.
Her ikisi de milyarder Elon Musk'a ait olan X ve xAI, son günlerde çoğu kadın olmak üzere çok sayıda kullanıcının X'te kendilerinin yapay zeka tarafından oluşturulan cinsel resimlerini gördüklerini söyleyen paylaşımlar yapmasının ardından ateş altında kaldı.
Yeni yılın başından bu yana, başta kadınlar olmak üzere X kullanıcıları hesapların Grok'u kullanarak kıyafetsiz fotoğraflarını oluşturduğunu bildirdi.
Reuters haber ajansının analizine göre, Grok'un çocukların cinselleştirilmiş görüntülerini oluşturduğu birkaç vaka da var.
Bayan Alexander şunları ekledi: “Şu ana kadar gördüğümüz görüntüler X'in kendisi değil, kullanıcıların cinselleştirilmiş ve üstsüz kız görüntüleri içeren görüntüleri oluşturmak için Grok Imagine'i kullandıklarını iddia ettikleri bir dark web forumudur.
“Gördüğümüz görüntüler Birleşik Krallık yasalarına göre Kategori C görüntüleri olarak kabul ediliyor.
“Kullanıcı daha sonra Grok görüntülerini, farklı bir yapay zeka aracı kullanarak çok daha ekstrem, Kategori A videoları oluşturmak için bir başlangıç noktası olarak kullanıyor. Zararlar giderek artıyor.
“İnsanları, özellikle de çocukları istismar etmek ve onlara zarar vermek için kullanılabilecek ürünleri küresel kamuoyuna sunmanın hiçbir mazereti olamaz.
Daha fazla teknoloji haberi okuyun:
İnsan tipi yeteneklere sahip robotlar geliyor
Porno kullanıcıları 'yaş kontrolü olmadan hala porno izliyor'
Hem Ofcom hem de Teknoloji Bakanı Liz Kendall, X'i yapay zeka tarafından oluşturulan kötü niyetli görüntüler konusunda harekete geçmesi konusunda uyardı.
Dün Bayan Kendall şunları söyledi: “Son günlerde internette gördüklerimiz kesinlikle dehşet verici ve düzgün bir toplumda kabul edilemez.”
“X'in bu konuyla acilen ilgilenmesi gerekiyor. Ofcom'un bu konuyu acil olarak incelemesi kesinlikle doğru ve gerekli gördüğü her türlü yaptırım eylemini gerçekleştirme konusunda benim tam desteğime sahip.”
Yapay Zeka ve Çevrimiçi Güvenlik Bakanı Kanishka Narayan Sky News'e konuşuyor
Yapay Zeka ve Çevrimiçi Güvenlik Bakanı Kanishka Narayan, Sky News'e verdiği röportajda Grok tarafından oluşturulan görüntülerin “tamamen kabul edilemez” olduğunu söyledi.
Ona hükümetin, Birleşik Krallık'ın çevrimiçi güvenlik kurallarını X'e karşı tam olarak uygulamak için Trump yönetimiyle ilişkisini riske atmaya istekli olup olmadığı soruldu.
Başkan Trump ve yönetiminin yanı sıra Elon Musk, ABD şirketlerine karşı harekete geçmeye çalışan İngiltere ve AB yetkililerini yüksek sesle eleştirdi.
Bay Narayan, “Amerikan başkanı, çocuklara yönelik cinsel istismara ve kadınlara ve kızlara yönelik şiddete karşıdır, tıpkı İngiliz kamuoyu ve İngiliz hükümetinin de öyle olduğunu düşünüyorum” dedi. “Demek söylenecek ilk şey bu.
“Söyleyeceğim ikinci şey, bunun bir iç politika alanı olduğudur. Halkın çevrimiçi ortamda hem cinsel istismar hem de cinsel tacizin bu korkunç örneklerinden korunmasını sağlamaya devam edeceğiz.”
Çarşamba günü Bay Musk, Grok'un yeni bir sürümünün yayınlandığını söyledi ve kullanıcıları uygulamalarını güncellemeye çağırdı, ancak yeni sürümün hangi güncellemeleri içerdiği hemen belli olmadı.
Teknoloji kralı daha önce “Grok'u yasa dışı içerik oluşturmak için kullanan herkesin, yasa dışı içerik yüklemiş gibi aynı sonuçlara maruz kalacağı” konusunda ısrar etmişti.
X, çocukların cinsel istismarına yönelik materyaller de dahil olmak üzere yasa dışı içeriğe karşı “bu içeriği kaldırarak, hesapları kalıcı olarak askıya alarak ve gerektiğinde yerel yönetimler ve kolluk kuvvetleriyle birlikte çalışarak” harekete geçeceğini söyledi.
Sky News yorum yapmak için X ile iletişime geçti.
