Nükleer muharebeye karşı suni zeka: Dünyanın sonunu getiren gerçek tehdit nedir?

Dört yıl ilkin en tartışmalı makalelerimden birini yazmıştım. İklim değişikliğinin – yaşadığımız dünyayı oldukça daha fena hale getirecek ve direkt ve dolaylı olarak milyonların ölümüne yol açacak olsa da – Dünya’daki insan yaşamını sona erdirmeyeceğini savundu.

bu değil bilimsel olarak tartışmalı. IPCC tahminleriyle ve bir çok iklim bilimcinin bakış açısıyla tutarlı. Bazı araştırmacılar, gezegensel ısınmanın tahmin edilenden oldukça daha yıkıcı olduğu aşırı kuyruk riski senaryoları üstünde çalışıyor. Bence bunu incelemeye kıymet, sadece bunlar pek ihtimaller içinde olmayan senaryolar – ne olacağına dair kimsenin en iyi tahmini değil.

Dolayısıyla, iklim değişikliğinin muhtemelen türlerin sonunu getiren bir tehdit olmadığını savunmanın bu kadar tartışmalı olmasının sebebi bilim değil. Bunun sebebi, irdelemenin entelektüel bir saç ayırma ve el sallama şeklinde, önümüzde emsalsiz bir halde duran zorluğun ciddiyetini azaltmanın bir yolu şeklinde hissedilebilmesidir.

Milyonlarca insan iklim değişikliği sebebiyle ölecek ve bu korkulu; varlıklı ülkelerdeki rahat insanlara muhtemelen kişisel olarak etkilenmeyeceklerini ve muhtemelen rahat hayatlarına devam edeceklerini söylemek için bu kurbanları satmak şeklinde geliyor.

Fakat temelde, sorunları abartmadan çözebileceğimize inanıyorum ve sorunları abartarak çözebileceğimize inanmıyorum. Düzeltmek için ne olacağına dair net bir resme ihtiyacınız var. Tehdidin yanlış anlaşılmasıyla ele alınan iklim eyleminin, hakikaten kurtarılmaya gereksinim duyan insanları kurtarması pek ihtimaller içinde değil.

AI, nükleer cenk ve dünyanın sonu

Suni zekanın insanlık için varoluşsal bir risk oluşturması durumu – 2018’den beri yazdığım – ana akım haline geldiğinden bu son zamanlarda aklımdaydı.

AI güvenlik araştırmacısı Eliezer Yudkowsky, Time’daki bir makalede, “mevcut koşullar şeklinde uzaktan yakından benzer herhangi bir durumda, insanüstü derecede akıllı bir AI oluşturmanın en ihtimaller içinde sonucu, kelimenin tam anlamıyla Dünya’daki her insanın öleceğidir” diye yazdı. Kuvvetli suni zeka sistemleri meydana getirmeye karşı yeni internasyonal anlaşmaların, bizi kurtarmak için gerekenlerin bir parçası bulunduğunu savundu, bu anlaşmaları uygulamak, uymayan uluslara karşı cenk eylemleri anlamına gelse bile.

Bu, birçok insanı oldukça çirkin buldu. Suni zekanın oldukça tehlikeli olabileceğine ikna olmuş olsanız bile, onun bir savaşı riske atmaya kıymet bulunduğunu düşünmek için hakikaten de muhteşem derecede ölümcül olduğuna ikna olmanız gerekebilir. (Savaşlar, insan uygarlığının geleceği için de tehlikelidir, bilhassa de nükleer bir değiş tokuşa dönüşme potansiyeline haiz savaşlar.)

Yudkowsky iki katına çıktı: Kontrolsüz insanüstü suni zeka muhtemelen Dünya’daki tüm yaşamı sona erdirecek, o savunduve bir nükleer cenk son aşama fena olsa da bunu yapmazdı. Bir nükleer muharebeye mahkemelik olmamalıyız, sadece cenk korkusunun bizi AI ile ilgili internasyonal anlaşmalara diş koymaktan alıkoymasına izin vermek bir hata olur.

Bunun her iki kısmı da normal olarak tartışmalı. Bir nükleer cenk yıkıcı olur ve milyonlarca insanı direkt öldürür. İlgili atmosfer bilimlerindeki uzmanlar içinde tartışılan bir olasılık olan nükleer patlamalardan meydana gelen ateş fırtınalarının küresel sıcaklıkları uzun bir süre süresince düşürmesi daha da feci olabilir.

Bir nükleer savaştan kaçınmak, ne olursa olsun insanlığın en yüksek önceliklerinden biri olmalı şeklinde görünüyor, sadece “nükleer kış”ın nükleer bir değiş tokuştan kaynaklanıp kaynaklanmayacağına dair münakaşa anlam ifade etmeyen bir kılı kırk yaran değil. Milyarlarca insanoğlunun kitlesel açlıktan ölme olasılığını azaltabilmemizin bir yolu, hem ABD hem de Rusya için Soğuk Cenk’ın zirvesindeyken olduğundan oldukça daha ufak olan sadece son zamanlarda tekrardan yükselişe geçen nükleer cephanelikleri azaltmaktır.

AI varoluşsal bir risk midir?

AI’nın hepimizi öldürüp öldürmeyeceğine erişince, gerçek şu ki, bu sual hakkında haber yapmak hakikaten muhteşem derecede zor. İklim bilimcileri, iklim değişikliğinin hepimizi öldürmeyeceği mevzusunda genel olarak aynı fikir, sadece hangi kuyruk riski senaryolarının makul olduğu ve ne kadar makul olduğu mevzusunda mühim bir belirsizlik var. Nükleer cenk araştırmacıları, bir nükleer savaştan bir nükleer kışın çıkıp çıkmayacağı mevzusunda mühim ve hararetli bir anlaşmazlığa sahipler.

Sadece bu anlaşmazlıkların her ikisi de, AI’nın tesirleri mevzusundaki anlaşmazlığın derecesine kıyasla sönük kalıyor. CBS geçtiğimiz günlerde suni zekanın vaftiz babası olarak anılan Geoffrey Hinton’a suni zekanın insanlığı yok edebileceği iddialarını sordu. Hinton, “Akıl almaz değil, tüm söyleyeceğim bu,” dedi. Öteki birçok uzmandan da aynı şeyi duydum: Bu kadar yüksek riskler hakikaten masada şeklinde görünüyor. Doğal ki, öteki uzmanlar endişelenmek için hiçbir niçin olmadığı mevzusunda ısrar ediyorlar.

O halde milyon dolarlık sual, bir nükleer cenk yada büyük bir salgın yada mühim bir küresel ısı değişikliği bile bunu yapamayacaksa, suni zekanın bizi iyi mi yok edebileceğidir. Sadece insanlık oldukça çetin olsa bile, Dünya’da sizi umursamayan akıllı bir uygarlığın otobanları için yaşam alanınızı kesinlikle mahvedebileceğini söyleyebilecek – yada soyları tükenmeden ilkin size söyleyebilecek olan – birçok başka tür var. (yada suni zeka eşdeğeri, bir ihtimal tüm biyosferi suni zeka uygarlığı projeleri için kullanmak suretiyle öğütür).

Bunun şeklinde yüksek riskli değiş tokuşlarda ilkeli bir halde gezinmek muhteşem derecede zor görünüyor. Siyaset yapıcılar, suni zeka gelişiminin çıkarlarını idrak etmek için hangi uzmanlara başvuracaklarını bilmiyorlar ve onlara rehberlik edecek bilimsel bir düşünce birliği yok. Buradaki en büyük çıkarımlarımdan biri, daha fazlasını bilmemiz gerektiğidir. Ne inşa ettiğimizi, niçin inşa ettiğimizi, neyin yanlış gidebileceğini ve ne kadar yanlış gidebileceğini daha net bir halde kavramadan iyi kararlar vermek imkansızdır.

Bu hikayenin bir versiyonu ilk olarak Future Perfect haber bülteninde gösterildi. Abone olmak için buradan kaydolun!