AI, “toplumun bir trajedisi” dir. Bunun için çözümlerimiz var.

“Silahlanma yarışı” suni zeka için yanlış bir zihinsel modeldir. İşte daha iyisi.

Muhtemelen AI ilerlemesinin klasik bir “silahlanma yarışı” olarak tanımlandığını duymuşsunuzdur. Temel mantık şu ki, eğer siz gelişmiş suni zeka geliştirme mevzusunda ilerlemezseniz, başka biri ilerleyecektir – muhtemelen daha acımasız ve daha azca güvenlik bilincine haiz biri. Bu yüzden bitiş çizgisini ilkin ötekinin geçmesine izin vermektense süper akıllı bir makine yapmak daha iyidir! (Amerikan tartışmalarında öteki taraf çoğu zaman Çin’dir.)

Sadece daha ilkin yazdığım benzer biçimde, bu AI durumunun doğru bir temsili değil. “Bitiş çizgisi” yoktur şundan dolayı suni zeka atom bombası benzer biçimde bir tek bir amacı olan bir şey değildir; Elektrik benzer biçimde daha genel bir teknolojidir. Ve laboratuvarınız bazı suni zeka güvenlik sorunlarını çözmek için süre harcıyorsa, öteki laboratuvarlar bu iyileştirmeleri benimseyebilir ve bu da her insanın yararına olabilir.

AI Impacts baş araştırmacısı Katja Grace’in Time’da gözlemlediği benzer biçimde: “Klasik silahlanma yarışında, kuramsal olarak bir taraf daima galip gelebilir ve kazanabilir. Sadece suni zeka söz mevzusu olduğunda, gelişmiş suni zekanın kendisi kazanan olabilir. [if it’s unaligned with our goals and harms us]. Bu, acelenin kaybedilen bir teklif haline gelmesine yol açabilir.”

AI durumunu “topluluğun trajedisi” olarak görmek bence daha doğru. Ekolojistler ve ekonomistler, birçok aktörün sınırı olan, kıymetli bir kaynağa erişimi olduğu ve onu hepimiz için yok edecek kadar aşırı kullandığı bir durumu bu şekilde tanımlar.

Müştereklere muhteşem bir örnek: dünya atmosferinin, bir iklim felaketine yol açmadan sera gazı emisyonlarını emme kabiliyeti. Herhangi bir şirket, bu kapasiteden daha azını kullanmanın anlam ifade etmeyen bulunduğunu iddia edebilir – onun yerine başkası kullanır – ve gene de rasyonel kişisel çıkarları doğrultusunda hareket eden herhangi bir erkek oyuncu tüm gezegeni mahveder.

AI böyledir. Buradaki ortak nokta, toplumun suni zekanın tesirini felakete sürüklenmeden özümseme kabiliyetidir. Herhangi bir şirket, giderek daha gelişmiş suni zekayı dağıttığı kapsamı yada hızı sınırlamanın anlam ifade etmeyen olacağını iddia edebilir – OpenAI bunu yapmazsa, yalnızca Google yada Baidu olacaktır, mantık böyledir – sadece her şirket bunu yaparsa toplumsal netice trajedi olabilir.

“Trajedi” kulağa fena geliyor, sadece suni zekaya topluluk trajedisi demek sizi iyimser yapmalıdır şundan dolayı araştırmacılar bu tür sorunlara çoktan çözüm bulmuşlardır. Aslına bakarsak, politika bilimci Elinor Ostrom, 2009 Nobel Iktisat Ödülü’nü tam da bunun için aldı. Öyleyse, çalışmasına ve suni zeka hakkında daha çözüm odaklı bir halde düşünmemize iyi mi destek olabileceğine daha yakından bakalım.

Elinor Ostrom’un müştereklerin trajedisine çözümü

1968 tarihindeki bir makalesinde BilimEkolojist Garrett Hardin, “müştereklerin trajedisi” fikrini popüler hale getirdi. İnsanların kaynaklar için o denli şiddetli rekabet ettiklerini ve sonunda onları yok ettiklerini savundu; Bundan kaçınmanın tek yolu, tam devlet kontrolü yada tam özelleştirmedir. “Yıkım, her insanın aceleyle koştuğu hedeftir,” diye yazmıştı, “her biri kendi iyiliğinin ardında koşuyor.”

Ostrom onu ​​satın almadı. İsviçre’den Filipinler’e toplulukları incelerken, otlak benzer biçimde paylaşılan bir deposu başarı göstermiş bir halde yönetmek için bir araya gelen insanların örneklerini buldu. Ostrom, toplulukların, bilhassa sekiz temel tasarım ilkesini dikkate aldıklarında, topluluk trajedisini önleyebileceklerini ve önlediklerini keşfetti:

1) Deposu yöneten topluluğu açıkça tanımlayın.

2) Kuralların, deposu kullanma ve sürdürme içinde uygun bir denge sağladığından güvenilir olun.

3) Kurallardan etkilenen herkesi kuralların hazırlanması sürecine dahil edin.

4) Kaynak kullanımını ve kaynak davranışını seyretmek için mekanizmalar oluşturun.

5) Kaide ihlalleri için artan bir takım yaptırım oluşturun.

6) Ortaya çıkan çatışmaları çözmek için bir prosedür oluşturun.

7) Yetkililerin, topluluğun örgütlenme ve kaide koyma hakkını tanıdığından güvenilir olun.

8) Değişik karar alma seviyelerine izin vermek için değişik seviyelerde çoklu yönetişim yapılarının oluşumunun teşvik edilmesi.

Ostrom’un tasarım ilkelerini suni zekaya uygulama

Suni zeka yönetişiminin iyi mi olması icap ettiğini idrak etmek için bu ilkeleri iyi mi kullanabiliriz?

Aslına bakarsak, suni zeka söz mevzusu olduğunda insanoğlu bu ilkelerin bazılarını aslına bakarsanız zorluyorlar – Ostrom’un çerçevesine uyduklarının bilincinde olmayabilirler.

Birçoğu, suni zeka yönetişiminin sınır suni zeka modellerini eğitmek için kullanılan çipleri izlemekle başlaması icap ettiğini savundu. Avital Balwit, Asterisk dergisinde ihtimaller içinde bir yönetişim rejiminin ana hatlarını çizdi: “Temel unsurlar, gelişmiş suni zeka yongalarının konumunun izlenmesini ve arkasından fazlaca sayıda kullanan her insanın eğittikleri modellerin belirli güvenlik standartlarını karşıladığını göstermesini gerektirmeyi ihtiva eder.” Çip kontrolü, Ostrom’un İlkesine uygundur. #4: Kaynak kullanımını ve davranışını seyretmek için mekanizmalar oluşturun.

Ötekiler, dünyaya zarar veren bir sistem getirirlerse suni zeka şirketlerinin yasal olarak görevli tutulması gerektiğine işaret ediyor. Teknoloji eleştirmenleri Tristan Harris ve Aza Raskin’in öne sürdüğü benzer biçimde, bu şirketlerin hakikaten dikkat etmiş olduğu birkaç tehditten biri sorumluluktur. Bu, Ostrom’un 5 numaralı ilkesidir: kaide ihlalleri için artan yaptırımlar.

Ve Çin’e kaybetmemek için suni zekayı zorlamaları icap ettiğini iddia eden teknoloji yöneticileri korosuna karşın, internasyonal koordinasyona ihtiyacımız bulunduğunu korumak için çaba sarfeden değişik düşünürler de bulacaksınız, tıpkı sonunda nükleer silahların yayılmasının önlenmesinde yaptığımız benzer biçimde. Bu, Ostrom’un 8. İlkesi’dir.

Eğer insanoğlu kim bilir bilincinde olmadan Ostrom’un bazı düşüncelerini halihazırda uyguluyorlarsa, Ostrom ile bağlantıyı açıkça vurgulamak niçin önemlidir? İki sebep. Bir şey için, başvurmuyoruz Tümü ilkeleri hemen hemen.

Öteki bir şey ise: hikayeler önemlidir. Mitler önemlidir. AI şirketleri, AI’nın silahlanma yarışı anlatısına bayılıyor; bu, pazara girmelerini haklı çıkarıyor. Fakat hepimizi karamsar bir tavır içinde bırakıyor. Bizlere değişik bir öykü anlatmanın gücü var: Suni zekanın topluluk için potansiyel bir trajedi bulunduğunu, sadece bu trajedinin bir tek potansiyel bir trajedi bulunduğunu ve bizim bunu önleyecek gücümüz bulunduğunu.