Dünya teknoloji liderleri uyarıyor, düzensiz suni zeka insanlığın yok olmasına yol açabilir
OpenAI ve Google Deepmind CEO’ları da dahil olmak suretiyle teknoloji liderleri, AI’nın insanlığın potansiyel olarak yok olmasına yol açabileceği mevzusunda uyardılar.
Düzinelerce AI sanayi liderine, akademisyene ve hatta bazı ünlülere bakılırsa, bir AI neslinin tükenme olasılığı ve bunun iyi mi önleneceği şu anda dünya genelinde en mühim öncelik olmalıdır.
Suni Zeka Güvenliği Merkezi tarafınca gösterilen bir bildiride, “Suni zekadan meydana gelen yok olma riskini azaltmak, salgın hastalıklar ve nükleer cenk benzer biçimde öteki toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır.”
Izahat, kontrolsüz suni zekanın ortaya çıkardığı nihai risklere ilişkin çeşitli endişelerin altını çiziyor. CNN bildirildi.
AI uzmanlarına bakılırsa cemiyet, bilimkurgu malzemesi olan suni genel zeka düzeyine ulaşmaktan hâlâ oldukca uzakta; Raporda, günümüzün en gelişmiş söyleşi robotlarının yalnızca “beslendikleri eğitim verilerine dayalı kalıpları çoğalttığı” ve kendileri için düşünmediği açıklandı.
Bildiriye imza atan suni zeka sektörünün önde gelen adları içinde OpenAI CEO’su Sam Altman; AI’nın vaftiz babası Geoffrey Hinton; Google DeepMind ve Anthropic’ten üst düzey yöneticiler ve araştırmacılar; Kevin Scott, ötekiler içinde.
Bununla beraber, “AI işine yönelik yutturmaca ve yatırım akışı”, herhangi bir mühim mesele ortaya çıkmadan ilkin, AI çağının başlangıcında düzenleme tekliflerine yol açtı.
Duyuru, OpenAI’nin ChatGPT’nin teknoloji sektöründe suni zeka silahlanma yarışını körükleyen viral başarısına cevap olarak geldi.
Netice olarak, oldukca sayıda milletvekili, savunuculuk kuruluşu ve teknoloji endüstrisi içinden biri, suni zeka destekli yeni nesil söyleşi robotlarının “yanlış informasyon yayma ve işleri ortadan kaldırma” olasılığıyla ilgili endişelerini dile getirdi.
Çığır açan emek harcamaları günümüzün suni zeka sistemlerinin yaratılmasına destek olan Hinton, daha ilkin Google’daki görevinden ayrılmaya karar verdiğini ve “bu şeylerin bizlerden daha akıllı hale geldiğini” “aniden” fark ettikten sonrasında teknolojiye “düdük çalmaya” karar verdiğini söylemişti.
Suni Zeka Güvenliği Merkezi Direktörü Dan Hendrycks, orijinal olarak Cambridge Üniversitesi’nde bir suni zeka profesörü olan David Kreuger tarafınca ortaya atılan ifadenin, toplumu algoritmik önyargı yada yanlış informasyon benzer biçimde öteki AI risk türlerini ele almaktan alıkoymadığını söylemiş oldu. Salı günü bir tweet’te.
Hendricks
“Cemiyet aynı anda birkaç tehdidi ele alabilir; bu” ya / ya da “diye tweet attı.
“Risk yönetimi açısından, mevcut hasarlara hususi olarak öncelik vermenin pervasız olacağı benzer biçimde, onları da göz ardı etmek tehlikeli olacaktır.” ekledi.
