Gözden Geçirme: Black Mirror kısmı “Joan Is Awful” suni zekayı ele alıyor – sadece hedefi ıskalıyor

Siyah aynaTV’nin en iyi hazırlanmış teknoloji distopik seçki dizisi, altıncı sezonuyla geri döndü, yeni bir korkulu gerçek dünya endişeleri dalgası için tam zamanında: kripto para çökmeleri, veri ihlalleri ve en acil olarak, köpüren bir paracı sürüsü. insan alın terini üretken AI ile değiştirebilmek için ağız.

Sezonun ilk kısmı olan “Joan Is Awful”, ABD Yazarlar Birliği’nin (WGA) Stage Actors’la devam eden grevini protesto etmiş olduğu bir endişeyle, bilhassa eğlence endüstrisindeki otomasyona yönelik bu eğilimi ele alıyor. Lonca (SAG-AFTRA) onlara katılmaya hazırlanıyor. Son on yılda, yayıncılar sanayi gelişimini ve ödeme standartlarını seyirciler için sürdürülemez içerik hacimlerine ve yazarlar için sürdürülemez derecede düşük ücretlere yöneltti. Artık sanayi yöneticileri, geleceğin otomatikleştirilmiş eğlencesi için oyuncuların seslerine, yazarların hikayelerine ve kullanıcı verilerine sahipleniyor. Netflix, gösterilen endüstriyi tanımlayan akış hizmeti Siyah ayna (ve bu hak için diziyi oluşturan ağın teklifini geç), grevin en büyük hedeflerinden biri – ve Siyah ayna‘ın son sezonu yayıncıyı da hedef alıyor.

Siyah ayna birkaç bölümde Netflix’te yan çekimler yapıyor, sadece “Joan Is Awful” daki hedef direkt ve zamanında; Streamberry adlı belirgin şekilde kırmızı logolu bir hizmet, üretken bir suni zeka fikir deneyini TV programcılığına dönüştürmek için ışıltılı bir kuantum bilgisayar kullanıyor ve yol süresince hayatları mahvediyor. Sadece bölüm, her insanın yaşamının prestijli TV için IP haline gelebileceği ve herhangi bir aktörün yüzünün (ve daha azca prime-time bölümlerinin) dijital kukla olarak küçültülebileceği bir geleceği düşlemek benzer biçimde gülünç bir halde canlı (ve yıldızlarla dolu) bir iş çıkarırken, Şovun çoğu zaman keskin oku, sonucunda probleminin özünü ıskalıyor. Suni zeka makinesinin adıyla Streamberry’nin “Quamputer”ı, bölümdeki felaketlerin suçunu üstüne alıyor ve büyülü ışık şovunu yok etmek mutlu bir son veriyor. Bununla beraber, gerçek AI konusunda, kötü karakterler olağanüstü makineler değil, insandır – bu yüzden pek oldukca yazar ve oyuncu, bir fark yaratmak için toplu eyleme güveniyor.

tarafınca yazılan bölüm Siyah ayna yaratıcısı Charlie Brooker, teknoloji, medya ve eğlence sektörü yöneticilerinin bir seçim yapmış olduğu gerçeğinden kaçınıyor. Siyah ayna-esque tamamımız için bir gelecek, bilinmeyen bir bilgisayar değil. Bu kaygıyla ilgili tatminkar herhangi bir netice, teknolojik değil, insani dönüşümün sonucu olacaktır.

“Joan Korkulu” ta Joan (Schitt DeresiAnnie Murphy’den Annie Murphy) günün ana karakteri haline geldiğini keşfeder: Streamberry, onun hayatına dayanan bir takım yarattı ve suni zeka tarafınca üretilen Salma Hayek’in (gerçek Hayek tarafınca canlandırılıyor) başrolde oynadığı, firmanın benzerliği sözleşmeli. kadın oyuncu. Her bölüm, Joan’ın gerçek gününden kısa bir süre sonrasında yayınlanarak sırrını vaka örgüsüne ve hatalarını kahkahalara dönüştürüyor. Netice olarak, Joan’ın yaşamı alt üst olur ve Hayek’in dikkatini çekmeye çalışır, böylece yıldızın gücünden yararlanarak diziyi kapatabilirler.

Bir noktaya kadar işe yarıyor: Joan, Hayek’in dijital versiyonunun tekrarlamak zorunda kalmış olduğu iğrenç bir sahne yaptıktan sonrasında, Hayek avukatına onu Streamberry sözleşmesinden çıkarmasını emreder. Sadece yıldızın anlaşması sağlamdır (sayfa 39, paragraf 8, “dışkılamaya kadar olan ve “dışkılamanın ötesindeki” tüm eylemleri ihtiva eder), en başta Streamberry’nin Joan’ın yaşam vakalarından içerik çıkarmasına müsaade eden kullanıcı yargı ve koşulları benzer biçimde. Bu öykü bir yalansa, firmanın avukatlarının ve yöneticilerinin ellerinde kan var fakat ekran haricinde kalıyorlar. Şeytanla bir antak kalma hakkında çağdaş bir şey yok. (Aslına bakarsak, 1970’lerin sonunda geçen sezonun son kısmı olan “Demon 79”, tam da bu İncil’deki sözleşmeyle adım atar.) Siyah ayna o kısmı doğru anlıyor.

Nick Duvarı/Netflix

Joan ve Salma Hayek, Streamberry genel merkezine vardıklarında, Apple seçimi ve büyüklüğünde güzel bir “Quamputer” yada kuantum bilgisayarın gösteriyi yürüttüğü bilgisayar odasına giriyorlar. Joan, bilgisayarı parçalamak için kullanışlı bir balta kapar ve balıkçı yakalı Streamberry CEO’su Mona Javadi (Leila Farzad), makinenin peri tozu olmadan uçup gidecek suni yaşamlar ve şovlar için acıma diliyor. (“Iyi mi çalıştığını bilmiyoruz!” diye bağırır. “Temelde sihir!”) Joan gene de makineyi yok ederek kendisini ve içinde bulunan tüm üretilmiş Joan’ları özgür bırakır.

Birkaç bükülme atlanan bölüm, Joan’ın yeni bir işte ve yeni bir hayatta, oldukca daha ufak bir konunun kahramanı olmayı öğrenmekle yetinmesiyle sonlanıyor. Yeni sezonun geri kalanıyla uyumlu, ümit verici ve insani bir netice. Siyah aynabu, Charlie Brooker’ın hızla gelişen teknolojinin karanlık yansıması hakkında yazmaktan, geri kalanımızın içinde yaşamaktan bıktığına dair açık bir izlenim sunuyor.

Peki ya şu Streamberry CEO’su? Onu yaratıcılığı birlere ve sıfırlara devretmeye zorlayan sistem ne olacak? Bölümde Javadi, sinmiş bir muhabire, makinenin daha yüksek etkileşim için negatif hikayeleri pozitif yönde olanlara tercih ettiğini söyler. Fakat “Joan Is Awful”da bu stratejiyi uygulamaya koymak için düğmeye kim bastı? (Gerçek dünyada kimin ürkütücü bir halde benzer bir seçim yaptığını biliyoruz: Feysbuk ve Twitter yöneticileri.) Brooker, suni zeka söz mevzusu olduğunda, “cini şişeye geri koyamazsınız” dedi. “Joan Is Awful” da bir bardak iBottle’ı kırmak problemi çözüyor benzer biçimde görünüyor. Kurgusal CEO ve onun benzer biçimde ötekiler, aynı ödeme meydana getiren müşteriler için aynı teknolojiyi aynı hedeflerle tekrardan inşa etmeyecek mi? AI insanlardan oluşur. Öyleyse niçin iktidardaki insanoğlu anlatı kancasından kurtuluyor?

Gerçek hayatta suni zekaya doğru hareket, “Quamputer” benzer biçimde talih eseri bir teknolojik bulgu tarafınca tetiklenmedi ve tek bir başarısızlık noktası da onu caydırmadı. Firmalar ve araştırma kurumları onlarca senedir makine öğrenimi ve büyük dil modelleri üstünde çalışıyor ve suni zeka geliştirmeye daha çok para ayırma sonucu ticari bir karar. İddiaya bakılırsa, suni zeka üretkenliği artıracak, pazarları ölçeklendirecek ve 2023’ün sonuna kadar suni zekaya meydana getirilen tahmini 154 milyar dolarlık küresel harcamayı haklı çıkaracak kadar maliyetleri düşürecek. Tanınmış suni zeka araştırmacısı Timnit Gebru, mevcut suni zeka çılgınlığını “altına saldırı” olarak adlandırdı ve endüstrinin gelişmeyi destekleyen kontrolcü “kar güdüsünden” kaçmak için daha iyi düzenlemelere ihtiyacı bulunduğunu savundu. Gezegendeki her insan için kişiselleştirilmiş içerik üretebilen bir makine sihir değildir; teknolojik gelişme geç dönem kapitalizmle buluştuğunda olan budur. Sadece Siyah ayna“Joan Is Awful”, bu fark mevzusunda alışılmadık bir halde sessiz.

Normal olarak Charlie Brooker kapitalizmi çözemez. ABD’deki en büyük ikinci gösterim hizmeti tarafınca ödenen ve sunulan yüksek bütçeli bir şov, üretken suni zekayı deviremez yada eğlence endüstrisi sendikalarına bir kazanç sağlayamaz. Sadece popüler sanat, teknoloji ve onun fazlasıyla insan olan kukla ustaları hakkında kültürel sohbette mühim bir rol oynuyor. On yıldan uzun bir süredir, Siyah ayna hızla gelişen teknolojinin politika, yaratıcı endüstriler, kişisel mahremiyet ve toplumun değişen etik çizgileri üstündeki tesiri çevresinde tartışmalara yol açarak inovasyonun karanlık tarafına yönelik en keskin eleştirmenlerimizden biri oldu. Başından sonuna kadar Siyah ayna‘in inanç krizlerine hapsolmuş insanların ve ilişkilerin kırılgan bir halde çizilmiş portreleri, şovun başlığı – akıllı telefon, tablet, bilgisayar yada tv benzer biçimde bir ekranın kapalı konumda görünme biçimine bir gönderme – hatta kültürel bir steno haline geldi. insanlık durumunun daha karmaşık gerçekleri için pek tasarlanmamış bir gelecekte yaşamı sürdürmenin rahatsız edici hissi.

Şovun ilk kez yayınlandığı 2011’den bu yana, firmalar teknolojiyi kültürümüze ve ekonomimize daha da derinlemesine yerleştirdikçe, teknoloji endüstrisinin gücü ve tesiri yalnızca arttı. (Bağlam olarak, Uber 2011’de, Zoom 2012’de, Doordash 2013’te piyasaya sürüldü. Apple, iPad’i 2015’te piyasaya sürdü ve Google, 2016’da Google Home’u piyasaya sürdü.)

Bugün, AI en acil sanayi endişesi olabilir – sadece birçok AI fikir liderinin uyardığı benzer biçimde, tekillik yolda olduğundan değil. “Joan Is Awful”da Joan’ı canlandıran Murphy, geçenlerde “insanların işlerini istemek ve yalvarmak zorunda kaldıkları … bilgisayarların yerini almaması gerektiği” bir zamanda yaşamamızın “içini sızlattığını” söylemiş oldu. İnsanın içini bulandıran dilencilik, bilgisayarlar değil. Bıçağı çevirenler de bu yalvarışları duyan insanlardır. O bir Siyah ayna masal, eğer bir tane duyduysam.