AI, insanları manipüle etmeyi öğrenecek, Godfather’ı AI mevzusunda uyardı
Suni zekanın (AI) tehlikeleri hakkında fazlaca sayıda ses ortaya çıkarken, AI’nın vaftiz babası olarak da malum Geoffrey Hinton, suni zekanın insanları denetim edeceğini ve “insanları manipüle etmenin yollarını” öğreneceğini söylemiş oldu.
Hinton, suni zekanın tehlikeleri hakkında özgürce konuşabilmek için teknoloji devine onlarca yıl adadıktan sonrasında Google ile yollarını ayırdı.
75 yaşındaki, bir röportajda konuşurken CNN, teknoloji geliştiricilerin suni zekanın tehlikelerinin neler bulunduğunu bilmelerini sağlamak için “düdük çalması” icap ettiğini söylemiş oldu.
Makinelerin eşi benzeri görülmemiş bir hızla insanlardan daha akıllı hale geldiğinin farkındaydı.
Oldukça sayıda teknoloji ürününde kullanılan suni zeka için sinir ağlarının geliştirilmesine destek olan Hinton, “Ben yalnız bu şeylerin bizlerden daha akıllı hale geldiğini ansızın fark eden bir bilim insanıyım” dedi.
“Bir nevi ‘düdük çalmak’ ve bu şeylerin bizi denetim etmesini iyi mi durduracağımız mevzusunda ciddi olarak endişelenmemiz icap ettiğini söylemek isterim.”
Hinton, New York Times’a “Düzgüsel bir bahaneyle kendimi teselli ediyorum: Ben yapmasaydım başkası yapardı” dedi.
Suni zekanın, pek fazlaca kişinin “artık neyin doğru bulunduğunu bilemeyeceği” bir dünya yaratacağı mevzusunda uyardı ve değişen teknolojinin yerini alacak işlere hususi bir vurgu yapmış oldu.
Suni zekanın vaftiz babası, “Bu şeylerin aslen insanlardan daha akıllı olabileceği fikri – birkaç şahıs buna inanıyordu” dedi.
Hinton, “bizlerden fazlaca daha akıllı olursa, manipülasyonda fazlaca iyi olacak şundan dolayı bunu bizlerden öğrenmiş olacak ve daha parlak zeka bir şeyin daha azca parlak zeka bir şey tarafınca denetim edildiğine dair fazlaca azca örnek var” dedi.
“Iyi mi programlanacağını biliyor, bu yüzden ona koyduğumuz kısıtlamaları aşmanın yollarını bulacak. İnsanları istediğini yapmaları için manipüle etmenin yollarını bulacak.”
Mart ayında, teknoloji CEO’ları ve uzmanlar da dahil olmak suretiyle fazlaca sayıda uzman tarafınca yazılan ve imzalanan, AI’nın tehlikelerini vurgulayan ve “cemiyet ve insanlık için derin riskler” oluşturduğunu söyleyen bir açık mektup vardı.
Teknoloji milyarderi Elon Musk, ChatGPT 4’ten fazlaca daha kuvvetli yazılımlar geliştirdiğini de duyurmuştu.
Mektubun imzacılarından kabul edilen Apple’ın kurucu ortağı Steve Wozniak Salı günü şunları söylemiş oldu: “Sizi kandırmak isteyenler için kandırmak fazlaca daha kolay olacak. Bu mevzuda hakkaten herhangi bir değişim yapmıyoruz – yapıyoruz. yalnız haiz olduğumuz yasaların bununla ilgileneceğini varsayarsak.”
Apple’ın kurucu ortağı da CNN ile konuşurken “suni zekanın düzenlenmesini” önerdi.
Mektubun bir parçası olmayan Hinton, “İlerlemeyi durdurabileceğimizi düşünmüyorum. Dilekçeyi imzalamadım” dedi.
Hinton, “Suni zeka üstünde emek vermeyi bırakmalıyız şundan dolayı ABD’daki insanoğlu durursa Çin’deki insanoğlu durmaz” diye ekledi.
Sadece, “Bu problemi çözüp çözemeyeceğimiz benim için net değil. Problemi çözmenin yollarını düşünmek için büyük çaba sarf etmemiz gerektiğine inanıyorum. Şu anda bir çözümüm yok” dedi.
