Peter Thiel’in varoluşsal riske liberter yaklaşımı tamamen yanlış

Peter Thiel – teknoloji milyarderi, özgürlükçü polemikçi, Trump bağışçısı – kısa sürede dünyanın en eski ve en prestijli münazara topluluklarından kabul edilen Oxford Union’da 200. yılını başlatmak için bir konuşma yapmış oldu. Bu pek yeni bir haber değil – tamamımız Thiel’in kampüs uygunluğu ve bizi iyi mi yalnızca hızla gelişen teknolojinin kurtarabileceği hakkında daha ilkin birçok kez duyduk.

Fakat bu sefer bilhassa benim alanımı eleştirdiği için kulaklarım dikildi. Meslektaşlarımla beraber nükleer ve biyolojik silahlardan, iklim değişikliğinden ve bileşik biyoloji ve suni zeka benzer biçimde gelişmekte olan teknolojilerden meydana gelen riskleri çalıştığımız Cambridge Üniversitesi’nde varoluşsal bir risk araştırmacısıyım. Bu teknolojilerin tümü inanılmaz derecede yüksek riskler taşıyor – bir yada daha fazlasının bugün yaşayan herkesi etkileyerek medeniyetlerin çökmesine yada yok olmasına yol açabileceğini düşünüyoruz. Etkili özgecilik topluluğundaki pek oldukça kişinin iddia etmiş olduğu benzer biçimde, bu risklerle savaşım etmenin zamanımızın mühim bir önceliği bulunduğunu düşünüyorum.

Thiel, on yıl ilkin bazı konferanslarda konuşarak ve birazcık para bağışlayarak bu mevzulara geçici bir ilgi duymuş benzer biçimde görünüyor. Fakat bildiğime göre, ben dahil olduğumdan beri varoluşsal risk azaltma topluluğuyla ilgilenmedi. Bunun yerine, seasteading ve alternatif sağ ile giderek daha çok ilgileniyor benzer biçimde görünüyor.

Öyleyse niçin varoluşsal risk azaltma alanını eleştiriyor? Thiel, topluluktaki bizlerin, 1970’lerden bu yana gerçek ücretlerdeki ve teknolojik ilerlemedeki durgunluktan birazcık görevli olan Luddistler olduğumuzu öne sürüyor benzer biçimde görünüyor. Durgunluğun önde gelen sebebinin, bilim adamlarının kendi teknolojilerinden fiilen oldukça korkmaları bulunduğunu iddia ediyor. Oxford Union seyircisine, “üniversiteler açısından niçin oyalandığına dair tek cevap, bilim ve hızla gelişen teknolojinin oldukça tehlikeli olduğu benzer biçimde bir şeydir” dedi.

Varoluşsal risk bir aldatmaca değildir

Durumu küçümsemek istemiyorum. Birleşik Krallık ve ABD’deki birçok işçi için gerçek ücretlerin 1970’lerden bu yana, bilhassa kemer sıkma politikalarının son on senesinde durgun olduğu hakikaten doğru. Ve oldukça fazla teknik çaba ve risk sermayesi, e-ticarete (PayPal benzer biçimde), toplumsal medyaya ve çevrimiçi reklamcılığa (Feysbuk benzer biçimde) yada gözetime (Palantir benzer biçimde) yetersiz bir halde yatırıldı. (Bağlantı nedir? Üç şirket de Thiel’in tahmini 8 milyar dolarlık servetini kazanmasına destek oldu.)

Sadece, teknoloji uzmanlarını yarattıkları teknolojiye ilişkin sorumluluklarını düşünmeye teşvik etmek için bayağı fazla süre harcayan biri olarak, karşılaştığım şeyin tipik olarak aşırı bir korku olmadığını söylememe izin verin.

Kuvvetli teknolojiler çoğu zaman “ikili kullanımlıdır”: İnsanlara yardım etmek yada onlara zarar vermek için kullanılabilirler. Nükleer fiziği ele alalım. Nükleer silahlar birçok yönden orijinal varoluşsal risktir, 1945’ten beri dünya üstünde beliren risktir. Bununla beraber, nükleer enerji bununla beraber güvenilir, sıfır karbonlu bir güç deposudur.

Biyoteknolojideki ilerlemeler, tarihteki en süratli aşı sunumunu ve daha çok tıbbi atılımı mümkün kıldı. Fakat bununla beraber, bilim adamlarının kasıtlı olarak hastalıkları daha öldürücü hale getirmeye çalışmış oldukları “işlev kazanma” deneylerini de mümkün kılıyorlar.

ChatGPT benzer biçimde dil modelleri mükemmel ve şaşırtıcıdır, sadece 2018’deki “Suni Zekanın Fena Amaçlı Kullanımı” başlıklı yazımızda uyardığımız benzer biçimde, yanlış ellere geçtiğinde toplu dezenformasyon üretimine yol açabilir. “Daha çok hız”ı irdelemenin problemi, bu ikili -kullanım teknolojileri aslına bakarsan bizim ayak uydurabileceğimizden daha süratli aşama kaydediyor.

Thiel, tek cevabın “yavaşlat” bulunduğunu düşünüyorsa, kesinlikle yanılıyor. Çıkış kazançlarının bir kısmını hayır kurumlarına bağışlamayı taahhüt eden girişimcilerden oluşan bir topluluk olan Founders Pledge Climate Change Fund, düşük karbonlu beton ve çelikte inovasyonu hızlandırmaya çalışıyor. Alvea, aşı üretimini hızlandırmayı amaçlayan bir biyoteknoloji girişimidir. Anthropic, yorumlanabilirliği ve uyumu hızlandırmaya çalışan bir AI güvenlik şirketidir. Buna “değişik teknoloji geliştirme” diyoruz: güvenli yada müdafa teknolojisini zararı dokunan yada hücum teknolojisine nazaran hızlandırmak.

Sadece Feysbuk’un eski “süratli hareket et ve bir şeyleri boz” sloganının işe yaramayacağı da açık. Yalnız teknolojiyi hızlandırmak bizi güvende tutmak için kafi olmayacaktır. Mantıklı mahalli düzenlemelere ihtiyacımız var: yeşil geçişi desteklemek, biyoloji laboratuvarlarında güvenlik gereksinimlerini çoğaltmak ve yüksek riskli suni zeka sistemlerinin güvenlik testlerinden geçmesini sağlamak. Thiel’in başkanlık kampanyasına bağışta bulunmuş olduğu Donald Trump’ın yırttığı Paris anlaşması ve nükleer silahların kontrolü anlaşmaları benzer biçimde internasyonal anlaşmalara ihtiyacımız var.

X-riskine liberter bir yaklaşım işe yaramıyor

Fakat Thiel bunu istemiyor benzer biçimde görünüyor. O bir Ayn Rand özgürlükçü. İdeolojik gerekçelerle, hükümetin eylemlerinin destek olabileceğine inanmıyor. Düzenlemenin işleri daha da kötüleştirdiğini düşünüyor. Bir Oxford Union dinleyicisi tarafınca İngiltere’nin Ulusal Sıhhat Hizmetini (NHS) iyi mi “düzelteceği” sorulduğunda, ülke olarak “Stockholm sendromumuzu” aşmamız ve onu şimdiden özelleştirmemiz icap ettiğini söylemiş oldu. Her insanın kendi fikirleri vardır, milyarderler bile. Fakat uç bir ideoloji. Ve büyük oranda zarar verebilecek bir şey.

Thiel görünüşe nazaran bu kendi başının çaresine bak zihniyetini planlamasında da benimsiyor. Uzun süredir toplumsal çöküş durumunda kaçabileceği bir cıvata deliği vardı. 2015 senesinde, Yeni Zelanda’nın Cenup Adası Aotearoa’da 13,5 milyon dolara (Kaliforniya’daki Disneyland tema parkından daha büyük) 193 dönümlük bir arsa satın aldı. Mayıs 2022’de, arsa üstünde 24 kişilik lüks bir kır evi, bir tiyatro salonu, bir spa ve bir “meditasyon bölmesi” inşa etme planlamasına izin verilmedi.

Bir dostum birkaç yıl ilkin Cenup Adası’nda gezi ediyordu ve bir barda bira içiyordu. Yerlilerden biri bir tepenin üstündeki bir noktayı işaret ederek, “Şurayı görüyor musun? Orası Peter Thiel’in evi. Bir şeyler ters giderse, yiyecek ve su için oraya gideceğiz.”

Varoluşsal riskin bir tek bireysel fiil, piyasanın görünmez eli ve bir “daha süratli git” işareti ile azaltılabileceğini yada hayatta kalabileceğini düşünmek bir fantezidir. Bununla birlikte kolektif eyleme, bilgeliğe ve sabra, makul ve orantılı düzenlemelere gereksinim duyar.

Varoluşsal risk ve etkili özgecilik topluluklarının benimsediği yaklaşım budur. Sadece bu maalesef Thiel’in aynı fikirde olmadığı bir yaklaşım.

Haydn Belfield oldu akademik proje yöneticisi Cambridge Üniversitesi Varoluşsal Risk Emekleri Merkezi’nde (CSER) son altı senedir. Bununla birlikte Leverhulme İstihbaratın Geleceği Merkezi’nde destek araştırmacıdır.