OpenAI liderleri, insanlığı korumak için süper akıllı suni zekanın düzenlenmesini istiyor
OpenAI liderleri Çarşamba günü, insanlığı potansiyel olarak yok etmesini önlemek için “süper akıllı” AI kullanımını seyretmek için internasyonal bir düzenleyicinin kurulmasını isteyen kısa bir not yayınladılar. Muhafız bildirildi.
Araştırmacılar, suni zekanın oluşturduğu tehlikeli riskler mevzusunda şimdiden uyardı ve ChatGPT’nin yaratıcılarını, risklerini denetim altına almak için Internasyonal Atom Enerjisi Kurumu kadar büyük bir düzenleyici kuruma başvurmaya yöneltti.
OpenAI’nin kurucu ortakları Greg Brockman ve Ilya Sutskever ve CEO’su Sam Altman tarafınca firmanın internet sayfasında gösterilen notta, internasyonal bir düzenleyicinin “sistemleri denetleme, denetim gerektirme, güvenlikle uyumluluğu kontrol etme” mevzusunda çalışmaya başlaması talep edildi. standartlar, [and] dağıtım derecelerine ve güvenlik seviyelerine engellemeler getirin.” böylece hızla gelişen teknolojinin oluşturduğu “varoluşsal risk” sürdürülebilir.
“Önümüzdeki 10 yıl içinde suni zeka sistemlerinin bir çok alanda uzman beceri düzeyini aşacağı ve günümüzün en büyük şirketlerinden biri kadar üretken faaliyetler yürüteceği düşünülebilir” diye yazıyorlar.
“Hem potansiyel pozitif hem de negatif yönler açısından, süper zeka, insanlığın geçmişte uğraşmak zorunda kalmış olduğu öteki teknolojilerden daha kuvvetli olacak. Oldukça daha müreffeh bir geleceğe haiz olabiliriz; fakat oraya ulaşmak için riski yönetmek zorundayız. Varoluşsal risk olasılığı göz önüne alındığında, bir tek tepkisel olamayız.” Devam ettirdiler.
Ayrıca, bir düzenleyici kurum kurulmadığı sürece OpenaAI liderleri, projelerinde güvenlik ve bakıma öncelik vermek için AI ile çalışan firmalar içinde “bir dereceye kadar koordinasyon” umuyor.
Geçen hafta Altman, ChatGPT benzer biçimde suni zeka destekli söyleşi botlarıyla ilgili endişelerini de dile getirerek, bunların ” ABD Senatosundaki bir kurultay oturumunda mühim bir kaygı alanı bulunduğunu söylemiş oldu.
Ek olarak hızla gelişen teknolojinin “kötüye kullanımı önlemek için lüzumlu kurallar ve yönergeler” bulunduğunu söylemiş oldu. Sadece, “suni zekanın geliştirilmesi için lisanslama ve kontrol gereksinimlerinin getirilmesinin” teknolojiden meydana gelen ihtimaller içinde zararları önleyebileceğini öne sürdü.
