Elon Musk ve öteki teknoloji devleri AI deneylerinde duraklama çağrısı yapıyor
Milyarder bir iş adamı olan Elon Musk ve bir grup başka teknoloji devi, Çarşamba günü araştırmacılara güvenliklerini sağlamaları için vakit tanımak amacıyla kuvvetli suni zeka (AI) sistemlerinin oluşturulmasını durdurma çağrısında bulunmuş oldu.
Yüzlerce meşhur suni zeka (AI) araştırmacısı, suni zeka laboratuvarlarını devasa suni zeka sistemlerini incelemeye çağıran açık bir mektupta, bu makinelerin cemiyet ve insanlık için temsil etmiş olduğu “derin riskler” hakkında endişelerini dile getirdi.
Kâr amacı gütmeyen Future of Life Institute tarafınca gösterilen mektuba nazaran, AI laboratuvarları şu anda “asla kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği makine öğrenimi sistemleri geliştirmek ve dağıtmak için “kontrolden çıkmış bir yarışta” kilitlenmiş durumda. yada güvenilir bir halde deneyin.”
Açık mektupta, “İnsan-rekabet zekasına haiz suni zeka sistemleri, cemiyet ve insanlık için büyük riskler oluşturabilir.”
“Kuvvetli suni zeka sistemleri, yalnızca etkilerinin pozitif yönde olacağından ve risklerinin yönetilebilir olacağından güvenilir olduğumuzda geliştirilmelidir.”
Her yerdeki AI mühendislerinin amacı, bu kuvvetli AI sistemlerine, araştırmacıların güvenliklerini doğrulamaları için gerekseme duydukları vakit ve alanın verilmesini sağlamaktır.
Yazar Yuval Noah Harari, Apple’ın kurucu ortağı Steve Wozniak, Skype’ın kurucu ortağı Jaan Tallinn, yasa koyucu Andrew Yang ve Stuart Russell, Yoshua Bengio, Gary Marcus ve Emad Mostaque dahil olmak suretiyle birçok önde gelen AI akademisyeni ve CEO’su, haiz olanlar içinde. dilekçeyi imzaladı.
GPT-4’ün San Francisco şirketi OpenAI tarafınca piyasaya sürülmesi, mektubun birincil itici gücü oldu.
Şirket, son olarak modelinin, en kısa istemlerden metin parçaları oluşturabilen bir bot olan ChatGPT’ye güç sağlamak için kullanılan önceki sürümden fazlaca daha kuvvetli bulunduğunu söylüyor.
Mektupta, “Bundan dolayı, tüm AI laboratuvarlarını GPT-4’ten daha kuvvetli AI sistemlerinin eğitimine minimum 6 ay ara vermeye çağırıyoruz” diyor. “Bu duraklama halka açık ve doğrulanabilir olmalı ve tüm kilit oyuncuları içermelidir. Bu şekilde bir duraklama süratli bir halde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.”
Musk, OpenAI’nin ilk yatırımcılarından biriydi, yönetim kurulunda yıllarını geçirdi ve otomobil şirketi Tesla, öteki uygulamaların yanı sıra kendi kendine sürüş teknolojisini güçlendirmeye destek olmak için AI sistemleri geliştiriyor.
Musk tarafınca finanse edilen Future of Life Enstitüsü tarafınca sunulan mektup, önde gelen eleştirmenlerin yanı sıra Stability AI şefi Emad Mostaque şeklinde OpenAI rakipleri tarafınca imzalandı.
OpenAI kurucusu Sam Altman tarafınca yazılan bir blogdan alıntılanan mektup, “bir noktada, gelecekteki sistemleri eğitmeye başlamadan ilkin bağımsız bir araştırma almanın mühim olabileceğini” öne sürdü.
Açık mektubun yazarları, “Kabul ediyoruz. O nokta şimdi,” diye yazdı.
“Bundan dolayı, tüm suni zeka laboratuvarlarını GPT-4’ten daha kuvvetli suni zeka sistemlerinin eğitimine minimum 6 ay ara vermeye çağırıyoruz.”
Şirketlerin anlaşmaya varamaması durumunda hükümetleri devreye sokmaya ve bir moratoryum uygulamaya çağırdılar.
Altı ay, güvenlik protokolleri, suni zeka yönetişim sistemleri geliştirmek ve suni zeka sistemlerinin daha doğru, güvenli, “güvenilir ve sadık” olmasını sağlamaya yönelik araştırmaları tekrardan odaklamak için kullanılmalıdır.
Mektup, GPT-4’ün ortaya çıkardığı tehlikeleri detaylandırmıyordu.
