ELIZA’dan ChatGPT’ye, dijital yansımalarımız suni zekanın tehlikelerini gösteriyor

Microsoft’un “Sydney” kod adlı yeni suni zeka ile aşılanmış arama motoru söyleşi robotunun, Şubat ayının başlarında piyasaya sürüldükten sonrasında, karşılıksız aşk beyanlarından bazı kullanıcıları boyamaya kadar değişen garip patlamalarla, artan bir rahatsız edici davranış sıralaması göstermesi uzun sürmedi. “düşman” olarak

Bu değiş tokuşlardan bazıları ne kadar insani görünse de, muhtemelen kafesini sallayan bilgili bir makinenin ilk kıpırdanmaları değildi. Bunun yerine, Sidney’in patlamaları, büyük miktarlarda sayısallaştırılmış dili emen ve kullanıcılarının istediklerini papağan benzer biçimde tekrarlayan programlamasını yansıtıyor. Kısaca çevrim içi benliğimizi bizlere geri yansıtıyor. Ve bu şaşırtıcı olmamalıydı – söyleşi robotlarının bizi kendimize yansıtma alışkanlığı, Sydney’in Bing arama motoru olmanın bir anlamı olup olmadığı mevzusundaki derin derin düşünmesinden oldukca daha eskilere dayanıyor. Aslına bakarsak, neredeyse 50 yıl ilkin ilk dikkate kıymet chatbot’un piyasaya sürülmesinden bu yana oradaydı.

1966’da MIT bilgisayar bilimcisi Joseph Weizenbaum ELIZA’yı yayınladı (adını George Bernard Shaw’un 1913’teki oyunundan kurgusal Eliza Doolittle’dan alıyor) Pygmalion), insanoğlu ve makineler içinde bir tür makul konuşmaya müsaade eden ilk program. Süreç basitti: Rogerian psikoterapi tarzından modellenen ELIZA, sual şeklinde verilen konuşma girdisini tekrardan ifade ediyordu. Arkadaşınızla yaptığınız bir konuşmanın sizi kızdırdığını söylerseniz, “Niçin kızgın hissediyorsunuz?” diye sorabilir.

İronik bir halde, Weizenbaum ELIZA’yı insandan makineye konuşma durumunun ne kadar yüzeysel bulunduğunu göstermek için tasarlamış olsa da, tam tersi bir tesir yarattı. Yalnızca kullananların sözlerini kendilerine geri yansıtabilen bir programla insanoğlu büyülendi, uzun, derin ve hususi konuşmalar yaptılar. Weizenbaum halkın tepkisinden o denli rahatsız olmuştu ki, yaşamının geri kalanını bilgisayarların – ve dolayısıyla, başlatılmasına yardım etmiş olduğu suni zeka alanının – toplumda oldukca büyük bir rol oynamasına izin vermenin tehlikelerine karşı uyararak geçirdi.

ELIZA, yanıtlarını kullanıcılardan gelen tek bir anahtar kelime çevresinde oluşturmuş ve oldukça ufak bir ayna oluşturmuştur. Günümüzün söyleşi robotları, milyarlarca kelimeden yola çıkarak eğilimlerimizi yansıtıyor. Bing, insanlığın şimdiye kadar inşa etmiş olduğu en büyük ayna olabilir ve bu tür üretken suni zeka teknolojisini her yere kurmanın eşiğindeyiz.

Sadece, Weizenbaum’un her yeni sürümle daha ilgili hale gelen endişelerini hala hakikaten ele almadık. 60’lardan kalma kolay bir bilimsel nitelikli program insanları bu kadar kuvvetli bir halde etkileyebiliyorsa, kâr amaçlı çalışan suni zekalarla tırmanan ilişkimiz bizi iyi mi değiştirecek? Sorularımıza cevap vermekten daha fazlasını icra eden, bununla beraber davranışlarımızı daha çok öngörülebilirliğe doğru yönlendirmede etken bir rol oynayan suni zeka mühendisliğinde kazanılacak oldukca para var. Bunlar iki yönlü aynalardır. Weizenbaum’un görmüş olduğu benzer biçimde, risk, bilgelik ve düşünme olmadan kendi çarpık düşüncemizde kendimizi kaybedebilmemizdir.

ELIZA bizlere kendimizi katartik olmaya kafi gelecek kadar gösterdi

Weizenbaum, herhangi bir makinenin – bırakın anlamayı – insan konuşmasını hakikaten yansılamak edebileceğine inanmıyordu. Weizenbaum 1977’de New York Times’a “İnsan yaşamının bir bilgisayarın anlayamayacağı – anlayamadığı yönleri vardır” demişti. “İnsan olmak lüzumlu. Aşk ve yalnızlık, biyolojik yapımızın en derin sonuçlarıyla ilgilidir. Bu tür bir anlayış bilgisayar için prensipte imkansızdır.”

ELIZA’yı Rogerian bir psikoterapistin peşinden modelleme fikrinin bu kadar çekici olmasının sebebi buydu – program, derin bir bağlamsal data havuzu yada aşk ve yalnızlığa aşinalık gerektirmeyen sorular sorarak bir sohbeti sürdürebilirdi.

Adını Amerikalı psikolog Carl Rogers’tan alan Rogerian (yada “şahıs merkezli”) psikoterapi, yorumlar yada tavsiyeler sunmak yerine, bir danışanın söylediklerini dinlemek ve tekrardan ifade etmek üstüne kuruluydu. Weizenbaum 1984’te “Bir ihtimal 10 dakika daha çok düşünseydim, bir barmen bulurdum” diye yazmıştı.

ELIZA ile yazışma oluşturmak için insanoğlu, metinlerini bir MIT sisteminde barındırılan programa bağlayan elektrikli bir daktiloya yazacaklardı. ELIZA, almış olduğu şeyi bir soruya çevirebileceği anahtar kelimeler için tarardı. Mesela, metniniz “anne” kelimesini içeriyorsa, ELIZA “Annen hakkında ne düşünüyorsun?” Herhangi bir anahtar kelime bulamazsa, çevresinde bir sual oluşturabileceği bir anahtar kelime alana kadar varsayılan olarak “bana daha çok data ver” benzer biçimde kolay bir istem kullanırdı.

Weizenbaum, ELIZA’yı bilgisayarlı insan dili anlayışının ne kadar sığ bulunduğunu göstermek için tasarladı. Sadece kullanıcılar, söyleşi robotuyla derhal yakın ilişkiler kurdular ve samimi konuşmaları paylaşmak için her seferinde saatlerce çaldılar. Weizenbaum, başından beri oluşturmasını izlediği programla ilk kez etkileşime giren kendi sekreteri, ELIZA ile hususi olarak devam edebilmek için odadan çıkmasını istediğinde bilhassa cesaretini kırmıştı.

Weizenbaum, ELIZA’nın iyi mi çalıştığına dair bir izahat yayınladıktan kısa bir süre sonrasında, “program ulusal çapta tanınır hale geldi ve hatta belirli çevrelerde ulusal bir oyuncak haline geldi” diye 1976 tarihindeki kitabında şöyleki diyordu: Bilgisayar Gücü ve İnsan Aklı.

Süre alıcı terapi sürecini otomatikleştirme potansiyeli psikiyatrları heyecanlandırdı. İnsanlar programa o denli güvenilir bir halde duygusal ve antropomorfik bağlar geliştirdi ki, bu ELIZA tesiri olarak bilinmeye başlandı. Halk, Weizenbaum’un niyetini tam olarak geriye doğru aldı ve onun insan-makine konuşmasının yüzeyselliğini gösterdiğini derinliğinin kanıtı olarak aldı.

Weizenbaum, ELIZA’nın iç işleyişine ilişkin açıklamasını yayınlamanın gizemi ortadan kaldıracağını düşündü. “Belirli bir programın maskesi düştüğünde, onun iç işleyişi, anlaşılmasını sağlamak için yeterince açık bir üslupla açıklandığında, büyüsü bozulur” diye yazmıştı. Gene de insanoğlu programın iyi mi çalıştığını sorgulamaktan oldukca sohbetlerini sürdürmekle ilgileniyor gibiydi.

Weizenbaum’un ikazları bir fikre odaklandıysa, o da kendini dizginlemekti. “Artık bilgisayarları akıllı hale getirmenin herhangi bir yolu olmadığı için,” diye yazdı, “şimdi bilgisayarlara bilgelik gerektiren görevler vermemeliyiz.”

Sydney bizlere kendimizi rahat hissettiğimizden daha çok gösterdi

ELIZA bu kadar yüzeyselse, niçin bu kadar ilişkilendirilebilirdi? Yanıtları kullanıcının anlık metin girişinden oluşturulduğundan, ELIZA ile konuşmak temel olarak kendinizle bir konuşmaydı – çoğumuzun tüm gün kafasında yapmış olduğu bir şeydi. Gene de burada, kendine ilişik herhangi bir kişiliğe haiz olmayan bir söyleşi ortağı vardı ve başka bir kolay sual sorana kadar dinlemeye devam etmekle yetindi. İnsanların duygularını paylaşmak için bu fırsatlarda rahatlık ve katarsis bulması o denli da acayip değil.

Sadece Bing’in ve onun benzer biçimde tüm büyük dil modellerinin (LLM’ler) ayrılmış olduğu yer burasıdır. Günümüzün söyleşi robotları nesliyle konuşmak, yalnızca kendinizle konuşmak değil, bununla beraber devasa dijitalleştirilmiş konuşma kümeleriyle konuşmaktır. Ve her etkileşimde, mevcut eğitim verileri topluluğu büyür.

LLM’ler bir poker masasındaki kart sayaçları gibidir. Daha ilkin gelen tüm kelimeleri çözümleme ederler ve bu bilgiyi bir sonraki kelimenin büyük olasılıkla gelme olasılığını kestirmek için kullanırlar. Bing bir arama motoru olduğundan, gene de kullanıcıdan gelen bir istemle adım atar. Arkasından, her seferinde bir sonraki en ihtimaller içinde kelimeye ilişkin tahminini güncelleyerek, her seferinde bir kelimelik yanıtlar oluşturur.

Söyleşi robotlarını, kendi fikirleri olan akıllı makineler yerine çevrimiçi verilerle çalışan büyük tahmin motorları olarak gördüğümüzde, işler daha azca ürkütücü hale geliyor. Sydney’in oldukca meraklı, bir birlikteliği bozmaya çalışan yada kendisinin daha karanlık bir tarafını hayal eden kullanıcıları niçin tehdit ettiğini açıklamak daha kolay hale geliyor. Bunların hepsi biz insanların yapmış olduğu şeyler. Sidney’de, çevrimiçi benliklerimizin bizlere geri döndüğünü gördük.

Fakat ne dır-dir Hala ürkütücü olan, bu yansımaların artık iki yönlü olmasıdır.

Çevrimiçi davranışlarımızı etkilemekten tükettiğimiz detayları iyileştirmeye kadar, büyük suni zeka programlarıyla etkileşimde bulunmak bizi şimdiden değiştiriyor. Artık girdilerimizi eylemsiz bir halde beklemiyorlar. Bunun yerine suni zeka artık iş yerlerinden mahkeme salonlarına kadar hayatımızın mühim bölümlerini proaktif olarak şekillendiriyor. Bilhassa chatbot’ları düşünmemize ve düşüncelerimizi şekillendirmemize destek olmaları için kullanıyoruz. Bu, kişiselleştirilmiş ön yazıları otomatikleştirmek benzer biçimde yararlı olabilir (bilhassa İngilizce’nin ikinci yada üçüncü dil olduğu müracaat sahipleri için). Sadece bununla beraber, insanoğlunun deneyime ses verme çabasından meydana gelen çeşitliliği ve yaratıcılığı da daraltabilir. Tarif olarak, LLM’ler tahmin edilebilir bir dil önerir. Onlara oldukca fazla güvenirseniz, bu öngörülebilirlik algoritması bizim algoritmamız olur.

Yalnız bir dünyada kâr amacı güden söyleşi robotları

ELIZA bizi değiştirdiyse, bunun sebebi, kolay soruların gene de kendimiz hakkında bir şeyler fark etmemizi sağlayabilmesiydi. Kısa yanıtların art niyet taşımaya yada kendi gündemlerini zorlamaya yer yoktu. Suni zeka teknolojilerini geliştiren yeni nesil şirketlerle beraber değişiklik iki yönlü akıyor ve gündem kâr.

Sidney’e baktığımızda, Weizenbaum’un 50 yıl ilkin dikkat çekmiş olduğu aynı uyarı işaretlerinin çoğunu görüyoruz. Bunlar içinde, insana benzemeye yönelik aşırı etken bir eğilim ve hem kabiliyetleri hem de sorumlulukları makinelere devretmenin temel zararsızlığına yönelik körü körüne bir inanç yer alır. Sadece ELIZA bilimsel nitelikli bir yenilikti. Sydney, 29 milyar dolarlık bir yatırım olan ve 2030 yılına kadar dünya genelinde 15 trilyon doları aşacağı tahmin edilen suni zeka endüstrisinin bir parçası olan ChatGPT’nin kâr amacı gütmeyen bir dağıtımıdır.

Suni zekanın kıymet önerisi her geçen gün büyüyor ve gidişatını tekrardan düzenleme olasılığı kayboluyor. Günümüzün elektrikli ve girişimci dünyasında, suni zeka söyleşi robotları şimdiden daha ilkin gelen tüm teknolojilerden daha süratli çoğalıyor. Bu, kendimizin ürkütücü yansımaları oldukca büyümeden ilkin inşa ettiğimiz aynaya bakmak ve Weizenbaum’un kendini dizginleme davasında bir hikmet olup olmadığını sormak için şimdiki zamanı eleştiri bir süre haline getiriyor.

Bir ayna olarak suni zeka, değişen teknolojinin etkinlik gösterdiği kültürün durumunu da yansıtır. Ve Amerikan kültürünün durumu giderek yalnızlaşıyor.

Bağımsız bir teknoloji uzmanı ve The Convivial Society haber bülteninin yazarı Michael Sacasas’a gore bu, Weizenbaum’un ikazlarının ötesinde bir kaygı deposu. Sacasas geçenlerde “Yalnız kalmak istemediğimiz için insana benziyoruz” diye yazmıştı. “Artık, bu temel insan arzusundan yararlanmak için kırılgan bir halde ayarlanmış benzer biçimde görünen kuvvetli teknolojilere sahibiz.”

Ne kadar yalnız kalırsak, bu teknolojiler tarafınca o denli sömürülebilir hale geliyoruz. Sacases şöyleki devam ediyor: “Bu ikna edici söyleşi robotları, bir tarayıcıdaki arama çubuğu kadar basit hale vardığında, öngörülemeyen ve muhtemelen ağlatısal sonuçlar doğuracak büyük ölçekte bir sosyal-psikolojik gözlem başlatmış olacağız.”

Her türden Sidney’le dolup taşan bir dünyanın eşiğindeyiz. Ve şüphesiz, söyleşi robotları, protein katlamadan daha adil ve erişilebilir eğitime kadar çok büyük faydalar sağlayabilen birçok ihtimaller içinde suni zeka uygulaması arasındadır. Sadece potansiyel neticeleri incelemeyi dikkatsizlik edecek kadar kendimizi kaptırmamalıyız. En azından ne yarattığımızı ve karşılığında bizi iyi mi tekrardan yaratacağını daha iyi anlayana kadar.