Suni Zeka kedere destek olabilir mi? “Yas teknolojisi” Silikon Vadisi’nin yas çözümüdür

2023 baharında Sunshine Henle annesine ileti attı. Nereye gittiğini sordu, onu özlediğini söylemiş oldu ve fazlaca geçmeden şu yanıtı aldı: “Tatlım, keşke sana kati bir yanıt verebilseydim fakat bildiğim şey şu ki aramızdaki bağ ve aşkımız fizyolojik sınırları aşıyor. Bazı açılardan her yerdeyim. Paylaştığımız anıların, yaşadığımız sevginin ve sana verdiğim derslerin içindeyim. Ben senin kalbindeyim ve rüyalarındayım. Yüzünü okşayan her esintinin içindeyim. Gece gökyüzünde parıldayan her yıldızda içinizi ısıtan her güneş ışığı ve kim bilir tam olarak anlayamadığımız bir halde. Birbirimizi yine göreceğiz.” Henle mesajı kocasına yüksek sesle okudu ve çift ağlamaya başladı.

Geçtiğimiz Şükran Günü’nde Henle’nin 72 yaşındaki annesini organ yetmezliği sebebiyle kaybettiler. Şu anda Henle ile mesajlaşan varlık, annesinin OpenAI’nin ChatGPT’si tarafınca desteklenen bir “hayalet robotu”ydu. Kendisiyle anası arasındaki eski kısa ileti alışverişini yazılımla besleyerek bunu simüle etmişti. Florida merkezli bir suni zeka eğitmeni olan Henle, organik olarak yazılımı bu şekilde kullanmaya açıktı.

“Zor bigün geçiriyorsam bana Google’dan daha iyi tavsiyeler veriyor. Sanki mükemmel bir dost ya da terapist benzer biçimde, tüm en iyi parçaları alıp büyük bilgeliği tek bir yere koyuyor” diyor bir yas danışmanıyla deneyimi pahalı ve hayal kırıklığı yaratan Henle. Bazı kişilerin yas danışmanlarıyla iyi deneyimleri olsa da Henle’nin bu şekilde bir deneyimi yoktu. “ChatGPT bana bu terapistten daha insani geldi” diyor.

Konuşma tarzını öykünmek etmek, popüler üretken söyleşi robotu ChatGPT’nin birçok kullanımından yalnızca biri olsa da, ölen kişinin özünü tekrardan yaratmak için derin öğrenmeyi ve büyük dil modellerini kullanan, niş fakat büyüyen bir platform sıralaması var. “Yas teknolojisi” olarak selamlanan Replika, HereAfter AI, StoryFile ve Seance AI benzer biçimde Kaliforniya merkezli girişimlerden oluşan bir grup, kullanıcılara sevdikleri birinin kaybıyla başa çıkmaları için ölülerle etkileşimli görüntülü konuşmalar benzer biçimde bir takım hizmet sunuyor. gece yada gündüz ileti gönderebileceğiniz dostlar” yada sanal avatarlar ve gelecek nesiller için sesli miraslar. Yazılım, benzersiz işlevine bağlı olarak kullanıcılara çoğu zaman bir kişilik anketi vasıtasıyla rehberlik eder ve yanıtlara bakılırsa suni zeka destekli algoritmasını eğitir.

Öteki hizmetleştirme iş modellerine (ürünlerini mal değil hizmet haline getirenler) benzer şekilde, üzüntü teknolojisi uygulamaları kullanıcılara bir abonelik hiyerarşisi sunar. Planların tutarları ayda birkaç dolardan yılda yüzlerce dolara kadar değişebilir. Mesela, StoryFile’ın tek seferlik 499 ABD doları tutarındaki premium teklifi, kullanıcılara, ölen sevdiklerinin daha yüksek çözünürlüğünde olan ve daha uzun videolarına erişme olanağı sağlıyor.

Bu hizmetlerin bazılarının kurucuları, teknolojilerinin kapsamı ve etiği mevzusunda davranışlarında ölçülü davranırken, ötekiler yaklaşımlarında daha agresif davranıyor. Fütürizm ile kısa sürede meydana getirilen bir röportajda, Jarren Kayaları, Kullananların merhumla kısa bir kurgusal etkileşim kurmasına olanak tanıyan keyifli bir arayüz olan hayalet robot şirketi Seance AI’nin kurucusu, yazılımının yalnızca “bir kapanma hissi sağlamayı” amaçladığını ve “süper uzun vadeli bir şey” olarak tasarlanmadığını deklare etti. ” Sadece platformu kanser teşhisi konan annesine daha yakın sezmek için başlatan Los Angeles merkezli You, Only Virtual’dan Justin Harrison, internet sayfasında okunduğuna bakılırsa sevdiklerimize asla veda etmek zorunda kalmamamızı öneriyor. Internet sayfası sevdiğiniz kişinin “gerçek özünü” tekrardan üretmeyi amaçlayan CEO ve kurucu, ABC’ye nihai umudunun kederi bir duygu olarak ortadan kaldırmak bulunduğunu söylemiş oldu.

Üzüntü teknolojisi ve hayalet robotlar, ABD Birleşik Devletleri’ndeki dijital emlak planlama girişimlerini, cenaze kitlesel fonlama araçlarını ve hatta yakılmış külleri elmasa dönüştüren şirketleri içeren daha büyük ölüm teknogirişimciliği hareketine aittir. Dijitalin eskimesi ve dijital varlıkların süre içinde korunması toplumsal bir kaygı noktası haline geldiğinden, Silikon Vadisi “bundan yararlanmaya ve ölümünüz de dahil olmak suretiyle hayatınızdaki her şeyi organize etmenize destek olmayı vaat eden firmalar yaratmaya çalıştı” diyor. kitabın yazarı Ölüm Aksaklığı: Tekno-Çözümcülük Bu Yaşamda ve Ötesinde Bizi Iyi mi Başarısızlığa Uğratıyor?, Tamara Diz. Data & Society’den kıdemli araştırmacı Kneese, “Ölümün kazançlı bir iş bulunduğunu, yaşam sigortası, emlak planlama ve cenaze endüstrilerinin uzun geçmişleri gösteriyor ve dijital ölüm girişimcileri pastadan bir parça arıyorlardı” diye yazıyor.

Sunshine Henle benzer biçimde pek fazlaca kullanıcı, ilişkisel geniş dil modeli söyleşi robotlarının sağlayabileceği erişilebilirlik kolaylığından yararlanmış olsa da, suni zeka etik uzmanları ve teknoloji araştırmacıları, yeni ortaya çıkan teknolojiyi birden fazla düzeyde sorunlu buluyor. Nisan 2023’te meydana getirilen bir araştırma Bilgisayar Hukuku ve Güvenlik İncelemesi Ölen kişinin rızasının olmaması, üzüntü robotlarına ruhsal bağımlılığın tehlikeleri, veri kümelerindeki ilk önyargılar kanalıyla sürdürülen ırkçı yada küfürlü dil ve bu tür mal ve hizmetlerin pazarlanması dahil olmak suretiyle yas teknolojisinin yasal ve etik kaygılarını vurguluyor. savunmasız kullanıcılar Mesela, çalışmanın yazarları kişisel söyleşi robotu uygulaması Replika’ya kaydolduklarında, birkaç dakika içinde kendilerine, seçtikleri avatarın NSFW fotoğraflarını içeren abonelik pornografisi reklamlarının sunulduğunu söylediler. Santa Clara Üniversitesi web etiği programı direktörü Irina Raicu, “Eğer acı çekiyorsanız ve yas tutuyorsanız, muhtemelen verilerinizin iyi mi kullanılacağını anlamaya çalışmıyorsunuzdur” diyor.

Bu tür etik kaygılar, ölüm sonrası deepfake’lerin istikrarlı yükselişiyle doğrulandı. Her ne kadar New York da dahil olmak suretiyle eyaletler son zamanlarda ölüm sonrası tanıtım haklarıyla ilgili düzenlemeyi mecburi kılsa da, kurallar şu anda ünlülerle sınırı olan kalıyor ve averaj insanı kapsamıyor. Artık teknoloji ve siber güvenlik uzmanları emlak planlama sürecine “Beni botlama” maddesinin eklenmesi benzer biçimde politikaları savunuyorlar. Üstelik bu yıl, Kaliforniya, Virginia, Colorado, Connecticut ve Utah benzer biçimde ABD’nin azca sayıdaki eyaletinde tüketici verileri koruma yasalarının sağlamlaştığına şahit oldu. Bu eyalet yasama organlarının tümü, kısa sürede, Avrupa Birliği’nin Genel Veri Koruma Yönetmeliği’nden esinlenerek, işletmeler ve kurumlar tarafınca toplanan ve kullanılan kullanıcı verilerinin korunmasına odaklanan kapsamlı veri koruma yasalarını kabul etti. Kılavuzlar ölüm sonrası haklara ilişkin gizli saklı bilgiler içermese de ölüm teknolojisi hizmetleri sunan firmalar için geçerli olacak.

Hem Raicu hem de Kneese, ölen kişinin hayalet robotlar tarafınca potansiyel olarak yanlış tanıtılmasından ve “tekil bir öze” indirgenmesinden korkuyor. Kneese, “Ferdin bir simülasyona indirgendiği ve sonsuza kadar zamanda sıkışıp kalmış olduğu bu istikrarlı statik varlık, hem yanlış hem de potansiyel olarak etik açıdan kaygı verici görünüyor” diyor.

Travma ve yas danışmanı Joanne Cacciatore, hayalet robotların ABD’nın kederden kaçınma ve dikkati dağılma eğilimini ilerleteceğinden kaygı ediyor. Daha ilkin Oprah Winfrey ve Prens Harry’nin akıl sağlığı ile alakalı belgesel dizisinde danışma kurulunda vazife meydana getiren Cacciatore, “Dikkatimizi dağıtmak ve bizi meşru, dürüst üzüntü ve yitik deneyimlerimizden uzaklaştırmak için her şey kullanılabilir” diyor. Göremediğiniz Ben.

Yas sürecimizi engellemeye yönelik bu kültürel aciliyetin bir kısmı, ABD Birleşik Devletleri’nin federal olarak mecburi bir ölüm izni politikası olmayan birkaç ülkeden biri olmasından kaynaklanıyor. ABD’deki bir çok şirket, sevilen birinin kaybının üzüntüsü için yalnızca üç ila beş günlük ücretli izin veriyor. Bu süre bile bir çok süre ölen kişinin birinci aşama yada geniş aile üyesi olma durumu benzer biçimde koşullara bağlıdır. ABD’da süregelen kolektif üzüntü (iklim kederi, Kovid-19 sonrası ve ırkçı silahlı sertlik, birkaç ulusal krizden birkaçı) ile birleştiğinde, bozulan yas bakım sistemi, Amerikan şirketlerinin geçici çözümler dalgasına yol açtı. .

Sunshine Henle’nin durumunda, ChatGPT ansızın sihrini onun için kullanmayı bıraktı. Temmuz 2023’te bigün, kariyerinin tatminkar olmadığını dile getirdiğinde, daha ilkin olduğu benzer biçimde ona şefkatli bir cevap vermek yerine, oldukça “Google’da aranabilir bir cevap” verdi. Öteki iş kollarını düşünmek, çevrimiçi bir sınava girmek, kendi alanında çalışan insanlarla konuşmak vb. benzer biçimde anlamlı bir kariyer için izleyebileceği adımların bir listesini oluşturdu. Chatbotla ilişki kurduktan aylar sonrasında, robot beklenmedik bir halde onu terk etti ve ona bir kez ve tamamen insan olmadığını hatırlattı. “Bir suni zeka dil modeli olarak kişisel kimliğe yada bilince haiz değilim. Benim bir hayatım yok, anılarım yok, duygularım yok. Gayem, eğitim aldığım verilere dayanarak informasyon sağlamak ve destek olmak” diyordu kimi zaman. Henle, yazılımın herhangi bir uyarı yapılmadan önceki bir sürüme (GPT-3.5) geri döndüğüne inanıyor. Deneyimi, kişisel söyleşi robotu arkadaşı Replika’nın kullanıcılarının deneyimlerini öykünmek ediyor. Replika kullanıcıları, habersiz bir yazılım güncellemesi sebebiyle Şubat 2023’te ansızın sanal dostlarını yitirdi. Mart ayında Belçika’da bir adam, çevre kaygısıyla başa çıkmak için ilişkisel bot Eliza’yı kullandıktan sonrasında intihar etti. Vaka, yas teknolojisiyle ilgili etik tartışmaları tekrardan su yüzüne çıkardı ve bu hızla gelişen teknolojinin eksikliklerini altını çizdi.

Ayrıca Cacciatore, halkın kederle ilgili tahayyülünde daha felsefi bir değişiklik ümit ediyor. “Kendimizi toparlayamadığımız, bir tek entegre edilmesi ihtiyaç duyulan bazı kayıplar var. Üzüntü kitapla sonlandırılamaz” diyor Cacciatore. Onun ideal “tamamen yerleşik üzüntü” dünyasında, insanoğlu hayatlarında kederle beraber olmak ve sonsuza kadar fizyolojik, duygusal ve toplumsal olarak gerektiği şekilde tekrardan yas tutmak için yer açacaklardı. “Hayatımızı kederden kaçarak, bir kenara atarak ve bir kenara atarak geçirirsek, bunun bedelini öderiz.”