Yapay zekanın son istifaları aslında dünyanın 'tehlikede' olduğu anlamına mı geliyor? | Bilim, İklim ve Teknoloji Haberleri
Çoğu insan işten ayrıldığında meslektaşlarına bir e-posta gönderir, yakındaki bir barda içki ayarlar ve hepsi bu kadar.
Yapay zekada durum bundan daha farklı olamazdı.
Sahadaki inceleme düzeyi, eğer isterlerse, işlerini bırakan araştırmacıların bunu büyük bir tantanayla yapabilecekleri anlamına geliyor. Sessizce ayrılsalar bile, hareketlerinin varlığı çoğu zaman bir tür sinyal olarak algılanır.
Bu hafta buna benzer birçok istifa dikkat çekti.
Salı günü, önde gelen yapay zeka şirketi Anthropic'te araştırmacı olan Mrinank Sharma, sosyal medyada “dünyanın tehlikede olduğu” konusunda uyardığı bir istifa bildirisi yayınladı.
Her ne kadar Sharma dünyanın neden tehlikeye atıldığını tam olarak söylemese de, tehdidin “yalnızca yapay zekadan veya biyolojik silahlardan değil, aynı zamanda şu anda ortaya çıkan bir dizi birbiriyle bağlantılı krizden” geldiğini belirterek, birçok kişi bunu yapay zekadan kaynaklanan varoluşsal riskin arttığı anlamına geldi.
Çarşamba günü OpenAI araştırmacılarından Zoe Hitzig, New York Times'ta yayınlanan bir makaleyle istifasını duyurdu ve OpenAI'nin ChatGPT'ye reklam ekleme planlarıyla ilgili “derin çekincelerini” öne sürdü.
Hitzig, “ChatGPT kullanıcıları, eşi benzeri olmayan bir insan samimiyeti arşivi oluşturdu” diye yazdı ve ChatGPT'nin, verileri uygun şekilde korunmadığı takdirde insanları manipüle etme potansiyeline sahip olduğu konusunda uyardı.
Bu arada, xAI'nin kurucu ortaklarından ikisi ve Elon Musk'un AI şirketindeki diğer personel de bu hafta istifa etti.
xAI, herhangi biri onu durdurmak için müdahale etmeden önce birkaç hafta boyunca X'te kadın ve çocukların rızası olmayan pornografik görüntülerini oluşturmasına izin verilmesinin ardından küresel bir tepkiye yol açan Grok sohbet robotunu yapıyor.
X, o zamandan beri yapay zeka sohbet robotu Grok'ta büyük değişiklikler yaptığını söyledi.
Bir araya getirildiğinde, bu ayrılıklar pek çok kişi tarafından – bu hafta ilgi gören yapay zeka hakkındaki bir makalenin ifadesiyle – “büyük bir şeyin gerçekleştiğinin” sinyalini vermek için yapıldı.
Medya raporları ve sosyal medya paylaşımları istifaları bir “dalga” olarak nitelendirdi.
Ancak daha yakından bakıldığında hareketlerin çok az ortak noktası olduğu görülüyor. Sharma, şiir yazmak için “değerler” ile ilgili belirsiz nedenlerden dolayı istifa ediyordu.
Aynı zamanda bir şair olan Hitzig'in reklamlar ve kullanıcı verileri konusunda derin endişeleri var.
XAI'den ayrılan çalışanlar, ayrılma nedenleri hakkında ayrıntılı bilgi vermedi ancak Musk'un uzay şirketi SpaceX ile birleşme nedeniyle şirkette yaşanan son değişiklikler bunda rol oynamış olabilir.
Hitzig ve Sharma'nın gündeme getirdiği endişeler, özellikle de “Yapay Zekanın Vaftiz Babası” olarak bilinen ve yapay zekanın insanlık için varoluşsal bir risk teşkil ettiği konusunda uyarmak amacıyla Google'daki görevinden ayrılan Nobel ödüllü bilim adamı Geoffrey Hinton tarafından geniş çapta paylaşılıyor.
Dosya resmi: Reuters
Belki de bu açıklamaların şu anda bu kadar ilgi görmesinin bir diğer nedeni de, son aylarda özellikle yazılım geliştirmede çarpıcı ilerlemeler kaydeden yapay zekanın hızlı büyümesine ilişkin korkulara değinmeleridir.
Microsoft AI CEO'su Mustafa Süleyman Çarşamba günü Financial Times'a yaptığı açıklamada, avukatlar ve muhasebeciler gibi beyaz yakalı çalışanlar tarafından gerçekleştirilen çoğu görevin 12 ila 18 ay içinde tamamen otomatikleştirileceğine inandığını belirterek, son yıllarda kaydedilen ilerlemeyi “göz yaşartıcı” olarak nitelendirdi.
Yapay zeka alanındaki birçok üst düzey isim de benzer uyarılarda bulundu.
Sky News'den daha fazlasını okuyun:
Beyin çipleri konusunda endişelenmeli miyiz?
Bu yapay zeka 'otomat makinesi testini' geçti
Cambridge Üniversitesi Leverhulme Zekanın Geleceği Merkezi Direktör Yardımcısı Dr. Henry Shevlin'e göre, motivasyonlar ne olursa olsun yapay zeka etrafındaki ateşli atmosfer çıkışlara katkıda bulunuyor olabilir.
Dr Shevlin Sky News'e “Yapay zeka şirketlerinin işten ayrılması yeni bir şey değil” dedi. “Ama neden şu anda bir dalga görüyoruz? Bunun bir kısmı yanıltıcı; yapay zeka daha büyük bir mesele haline geldikçe, yapay zekanın greve gitmesi daha haber değeri kazandı, dolayısıyla daha fazla küme gözlemliyoruz.
“Ancak yapay zeka daha güçlü hale geldikçe ve daha yaygın olarak kullanıldıkça, onun uygun kapsamı, kullanımı ve etkisi hakkında daha fazla soruyla karşı karşıya kaldığımızı söylemek yanlış olmaz.
“Bu, hem toplumda hem de şirketler içinde hararetli tartışmalara yol açıyor ve daha yüksek oranda endişeli çalışanların çıkışa yönelmelerine katkıda bulunuyor olabilir.”
Anthropic yorum yapmayı reddetti ve yalnızca bir personel üyesinin Sharma'ya çalışmaları için teşekkür eden bir tweet'ine işaret etti.
OpenAI, yorum talebine yanıt vermedi.
