Elon Musk, suni zekayı çözmenin eşiğinde olduğumuza inanıyor. Bu onu doğru yapmaz.

Sürücüsüz arabalardan ChatGPT’ye suni zeka söz mevzusu olduğunda doğru ve oldukça yanlış yapmış olduğu şey.

Elon Musk, AI derecesine haiz olmamasına ve görünüşe nazaran bu alanda oldukça azca ilgi gören yalnızca bir bilimsel niteliği olan mecmua makalesine haiz olmasına karşın, gördüğüm neredeyse her AI etkisinde bırakan listesinin başlangıcında yada başlangıcında.

Bunda ne olursa olsun yanlış bir şey yoktur; Yann LeCun fizik eğitimi aldı (Musk’un iki lisans derecesinden biriyle aynı mevzu), sadece haklı olarak öncü makine öğrenimi ile tanınır. Suni zeka çalışmamla da tanınırım fakat bilişsel bilim okudum. AI için şimdiye kadar yazdığım en mühim emek harcama bir psikoloji dergisindeydi. İnsanların değişik alanları etkilemesi oldukça düzgüsel ve Musk’ın sürücüsüz otomobiller üstündeki emek harcaması şüphesiz suni zekanın gelişimini etkiledi.

Sadece suni zeka hakkında söylediklerinin bir çok yanlıştı. En kötüsü, sürücüsüz otomobil süre çizelgesi ile alakalı tahminlerinin hiçbiri doğru değildi. Ekim 2016’da, bir Tesla’nın 2017 yılına kadar California’dan New York’a gideceğini tahmin etti. (Yapmadı.) Tesla, “Otopilot” adlı bir teknoloji kullandı, sadece sektördeki hepimiz bu adın bir yalan bulunduğunu, gerçeklikten oldukça pazarlama bulunduğunu biliyor. Tesla’lar kendi kendine sürüşün tanıdığından bile geçmiyor; Yazılım, Tesla’nın piyasaya sürmesinden yedi yıl sonrasında, bir insan sürücünün hala dikkatli olması icap ettiğini gösterecek kadar sorunlu.

Musk ek olarak naturel (insan) zeka ile suni zeka arasındaki ilişkiyi devamlı olarak yanlış anlıyor benzer biçimde görünüyor. Tesla’nın, yanlış yönlendirme temelinde neredeyse tüm öteki otonom vasıta şirketlerinin güvenilmiş olduğu bir sensör sistemi olan lidar’a gerekseme duymadığını onlarca defa savundu. Karşılaştırmak sürücüsüz otomobillerde insan görüşü ve kameralar içinde. İnsanların otomobil kullanmak için lidara gerekseme duymadığı doğru olsa da mevcut suni zeka, lidar olmadan bir takım yol koşulunu idrak etmek ve bunlarla başa çıkmak için neredeyse kafi görünmüyor. Sürücüsüz otomobiller, insan benzeri zekadan yoksun oldukları için bir koltuk değneği olarak lidar’a gerekseme duyarlar.

Tesla’lar, durmuş acil durum araçlarıyla çarpışmaktan devamlı olarak kaçınamıyor, bu, firmanın beş yıldan uzun süredir çözemediği bir mesele. Hemen hemen açıklanmayan nedenlerden dolayı, arabaların idrak etme ve karar verme sistemleri, insan müdahalesi olmadan yeterince güvenilir bir halde sürmeyi hemen hemen başaramadı. Musk’ın iddiası, arabaların ayakları olmadığı için insanların yürümesine gerek olmadığını söylemek gibidir. Büyükannemin tekerlekleri olsaydı, o bir otomobil olurdu.

ChatGPT görünmüş olduğu kadar derin suni zeka gelişimi değil

Düzensiz bir sicile karşın Musk, suni zeka hakkında açıklamalarda bulunmaya devam ediyor ve bunu yaptığında insanoğlu bunu ciddiye alıyor. İlk olarak CNBC tarafınca bildirilen ve sonrasında geniş çapta toplanan sonuncusu, birkaç hafta ilkin Dubai’deki Dünya Hükümeti Zirvesi’nde gerçekleşti. Musk’ın söylediklerinin bir kısmı, benim ustalaşmış yargıma nazaran yerinde ve bir kısmı da hedefin oldukça haricinde.

En hatası, suni zekayı çözmenin eşiğinde olduğumuz yada insan zekasının esnekliğiyle sözde “suni genel zekaya” (AGI) ulaşmaya başladığımız yönündeki önerisiydi ve ChatGPT’nin “insanlara suni zekanın ne kadar gelişmiş hale geldiğini gösterdiğini” iddia etmesiydi. . ”

Bu oldukça saçma. Bazı insanoğlu için, bilhassa de AI alanını takip etmeyenler için, ChatGPT’nin insan düzyazısını ne seviyede öykünmek edebildiği son aşama şaşırtıcı görünüyor. Fakat bununla beraber derinden kusurlu. Hakikaten süper akıllı bir suni zeka, gerçeği yanlıştan ayırabilecek, insanoğlu, nesneler ve bilim hakkında yargılarda bulunabilecek ve yeni şeyleri insanoğlu kadar oldukça yönlü ve süratli bir halde öğrenebilecek – mevcut nesil söyleşi robotlarının hiçbirini yapamayacak. ChatGPT’nin yapabileceği tek şey, üstünde eğitim almış olduğu çok önemli oranda yazılı çalışmaya dayalı olarak değişik bağlamlarda makul olabilecek metinleri tahmin etmektir, sadece ağzından çıkanın doğru olup olmaması umurunda değildir.

Bu, ChatGPT’yi oynamayı inanılmaz derecede keyifli hale getirir ve görevli bir halde kullanılırsa, kimi zaman yararlı bile olabilir, sadece onu hakkaten akıllı yapmaz. Sistem gerçeği söylemekte oldukça zorlanıyor, rutin olarak halüsinasyonlar görüyor ve kimi zaman temel matematikte mesele yaşıyor. Bir sayının ne işe yaradığını anlamıyor. AI araştırmacısı Melanie Mitchell tarafınca bana gönderilen bu örnekte ChatGPT, bir pound tüy ile iki pound tuğla arasındaki ilişkiyi anlamakta başarısız oluyor. gülünç korkuluk Nefret dolu bir dil kullanmasını engellemiş olan fakat bununla beraber birçok suali direkt yanıtlamasını da engellemiş olan sistem Musk’ın kendisi bundan şikayet etti başka yerde.

Bu tür ChatGPT hatalarının örnekleri İnternette sayısızdır. NYU bilgisayar bilimcisi Ernest Davis ve diğerleriyle beraber bunların koca bir koleksiyonunu bir araya getirdim; Kendi katkınızı yapmaktan çekinmeyin. OpenAI çoğu zaman bu tarz şeyleri düzeltir, sadece yeni hatalar ortaya çıkmaya devam eder. İşte şu anki favorilerimden biri:

Bu vakalar, aksine yüzeysel görünümlere karşın ChatGPT’nin tartışamayacağını, niçin bahsetmiş olduğu hakkında hiçbir fikri olmadığını ve tamamen güvenilmez bulunduğunu göstermektedir. Gerçek bir etik pusulası yoktur ve kötülüğe dönüşmesini engellemeye çalışan fakat fazla güçlük çekmeden kırılabilen kaba korkuluklara güvenmek zorundadır. Kimi zaman yazdığınız metin, yapmak için eğitildiği bir şeye yeterince yakın olduğundan işleri doğru yapar, sadece bu mevzunun dışındadır. doğru olmak Kimi zaman suni zeka için sağlam bir temel değildir.

Musk’ın bir ChatGPT rakibi – kendi deyimiyle “TruthGPT” – yapmaya çalmış olduğu bildiriliyor. koymak son zamanlarda – fakat bununla beraber mühim bir şeyi gözden kaçırıyor: gerçek, GPT seçimi mimarilerin bir parçası değil. Mevcut dil modelleriyle ilgili temel sorunları ele alan yeni bir suni zeka oluşturmak istemek mesele değil, sadece bu oldukça değişik bir tasarım gerektirecektir ve Musk’ın değişikliklerin ne kadar köktencilik olması icap ettiğini bilmiş olduğu açık değildir.

Riskler yüksekken, firmalar aslına bakarsan bu gerçeği öğreniyor ve GPT en iyi dost değil. JPMorgan, çalışanlarının ChatGPT’yi ticari amaçlarla kullanmasını engelledi ve Citigroup ve Goldman Sachs da derhal aynı şeyi yapmış oldu. Yann LeCun olarak koymakSenelerdir söylediğimi yinelemek gerekirse, bu suni genel zekaya giden yolda bir yan daldır şu sebeple altta yatan değişen teknolojinin gerçek zekanın gereklilikleriyle hiçbir ilgisi yoktur.

Geçen Mayıs, Misk isminde 2029’a kadar “AGI’miz eğer olmazsa şaşırırdı”. O süre şüphelerimi dile getirdim. sunulan ona 100.000$ bahse girdi (onun için o denli olmasa da benim için gerçek para bu) ve bir takım şart yazdı. Bu alandaki pek oldukça insan, Musk’ın bu tür tahminlerde bulunurken eylemden oldukça laftan ibaret olduğu yönündeki fikrimi paylaştı. Ertesi gün, planlamadan, öteki AI uzmanlarından bahis için 400.000 $ daha topladım. Musk bizimle asla iletişime geçmedi. Söylediklerine hakkaten inanıyorsa, yapması gerekirdi.

Hala oldukça endişeli olmalıyız

Musk, sürücüsüz arabaların ne süre geleceği mevzusunda yanılıyorsa, insan benzeri robotlar yapmak için gerekenler mevzusunda safsa ve genel haber alma süre çizelgesinden büyük seviyede sapıyorsa, Dır-dir doğru bir şey: Houston, bir sorunumuz var.

Geçen ay Dubai’de düzenlenen etkinlikte Musk kalabalığa şunları söylemiş oldu: “Uygarlığın geleceğine yönelik en büyük risklerden biri suni zekadır.” Hala nükleer harp ve iklim değişikliğinin daha büyük olabileceğini düşünüyorum, sadece son birkaç haftadır, bilhassa kaotik ortamda. Microsoft ve Google tarafınca yeni suni zeka arama motorlarının piyasaya sürülmesi, beni giderek daha ilkel ve güvenilmez suni zeka ürünlerinin pazara saldırı ettiğini göreceğimize inandırdı.

Bu tam olarak Musk’ın aklındaki AI türü olmayabilir, sadece açık ve mevcut tehlikeleri var. Öngörülemeyen eğitim etkilerinden büyük, otomatikleştirilmiş yanlış bilgilendirme kampanyalarına kadar her gün yeni endişeler ortaya çıkıyor. Alternatif sağ toplumsal ağ Gab benzer biçimde aşırılık yanlısı örgütler bunu çoktan yapmış oldu başlamak Kendi suni zekasını oluşturma niyetinin duyurulması.

Bu yüzden, AGI yada sürücüsüz otomobillerle ilgili belirli programlar için Musk’a gitmeyin. Fakat oldukça mühim bir noktaya daha değiniyor: Elimizde yeni bir teknoloji var ve bunun iyi mi sonuçlanacağını hakkaten bilmiyoruz. Bu hafta “Suni zeka gelişimini denetlemek için bir tür düzenleyiciye yada başka bir şeye ihtiyacımız var” söylediğinde, bilhassa belagatli olmayabilirdi, fakat kesinlikle haklıydı.

Aslen AGI’ye o denli yakın değiliz. Bunun yerine, kim bilir kimsenin beklemediği, baştan çıkarıcı fakat tadı ve gerçeği görmezden gelen bir suni zekayı özgür bırakıyoruz. Fakat atıştırmalık hala aynı. Ne kadar akıllı (ya da değil) olursa olsun, endişelenmeliyiz.

Gary Markus (@garymarcus) bir Bilim adamı, oldukça satan yazar ve girişimci. 2016 senesinde Uber tarafınca satın alınan Geometrik Zeka girişimini kurdu. Yeni podcast’i “İnsanlar Makinelere Karşı” bu baharda başlıyor.