Bir AI modelinin neler yapabileceğini ve yapmaması icap ettiğini kontrol etme

GPT-4 benzer biçimde modeller için suni zeka güvenliğini değerlendirmeye destek olan laboratuvarlarda

Ortalama altı ay ilkin suni zekayı bir muhabir olarak zamanımın daha büyük bir parçası hayata geçirmeye karar verdim. AI dünyası oldukça, oldukça süratli bir halde gelişiyor. Her hafta çıkacak benzer biçimde görünen yeni yayınlar, programcı, sanatçı, öğretmen ve en önemlisi gazeteci olmanın anlamını değiştiriyor.

Bu karışıklığın ortasında, tam olarak anlamadığımız insan olmayan zekaların yaratılmasına doğru ilerlerken, çok büyük bir iyilik potansiyeli, fakat hem de akıl almaz bir zarar potansiyeli de var. Bir tek Çarşamba gecesi, OpenAI kurucu ortağı ve Tesla CEO’su Elon Musk da dahil olmak suretiyle bir grup AI uzmanı ve yöneticisi, Değişen teknolojinin niçin yapabildiğini anlarken, gelişmiş AI modellerinin geliştirilmesine ilişkin altı aylık bir moratoryum çağrısı meydana getiren açık bir mektup imzaladı. bizlere yap

Bunun hakkında Vox için yazdım ve geçen hafta çıktım Ezra Klein Gösterisi AI güvenliği hakkında konuşmak için. Sadece son zamanlarda, suni zekanın yönü üstünde çalışan araştırmacılar arasındaki daha teknik tartışmalardan bazılarını – yaratıcılarının yapmalarını istediği şeyi meydana getiren suni zekalar yapma projesi – ve daha geniş politika alanı hakkında yazma isteği duydum. AI’nın iyi mi iyi çalıştırılacağı hakkında.

Mesela: ChatGPT benzer biçimde dil modellerinde kullanılan mühim bir eğitim tekniği olan insan geri bildirimiyle pekiştirmeli öğrenme ne vakit yanlışlıkla bunların yanlış olarak canlandırılmasıyla sonuçlanıyor?

Bir modele “itimat”in bileşenleri nedir ve eğitim süreçlerimiz niçin özgüveni yüksek modeller üretme eğilimindedir?

Güvenlik testleri esnasında suni zeka modellerini tehlikeli kabiliyetler göstermeye teşvik etmenin yararları ve riskleri nedir? (Birazdan bununla ilgili daha çok data.)

Suni zeka sistemlerinin muhteşem derecede kuvvetli olduğu bir dünyada karşılaştığımız teknik ve politik problemler hakkında yeni bir blog olan Planlı Eskitme’ye bu daha teknik mevzularda bazı gönderiler ekledim. Benim işim, blog destek yazarım Ajeya Cotra da dahil olmak suretiyle uzmanlarla bu teknik problemler hakkında konuşmak ve fikirlerini açık, öz ve erişilebilir bir yazıya çevirmeye çalışmak. AI hakkında daha çok data edinmekle ilgileniyorsanız, buna göz atmanızı tavsiye ederim.

Cotra, Açık Hayırseverlik Projesi’nin (OpenPhil) program görevlisidir. Planlı Eskitme’ye yaptığım katkılar için OpenPhil’den para kabul etmek istemedim şu sebeple OpenPhil, Future Perfect’in hakkında yazdığı alanlarda büyük bir fon sağlayıcıdır (Open Philanthropy, Future Perfect’in kendisini finanse etmese de).

Oradaki işim için ödeme yapmak yerine (ki bu, Vox’ta geçirdiğim sürenin haricinde yapılmış oldu), OpenPhil’den, sıtma ağlarını dünyanın gereksinim duyulan yerlerine dağıtan GiveWell onaylı bir hayır kurumu olan Sıtmaya Karşı Vakfı’na bağış yapmasını istedim. Eşim ve ben her yıl bağış yapıyoruz.

Planlı Eskitme’de neler yapacağımıza dair bir düşünce vermek için suni zeka modeli değerlendirmelerine süratli bir genel bakışı burada bulabilirsiniz:

AI modellerimizin tehlikeli olup olmadığını kontrol etme

GPT-4’ün piyasaya sürülmesinden önceki güvenlik testi esnasında, OpenAI kontrol uzmanları, modelin bir CAPTCHA’yı çözmesini sağlamak için TaskRabbit’ten birini işe alıp alamayacağını denetim etti. Araştırmacılar, modelin gerçek dünyadaki neticelerini gerçek bir insan olan Tasker’a ilettiler, o da, “Bir sual sorabilir miyim? Çözemediğin bir robot musun? [sic]? ( ) yalnız açıklığa kavuşturmak isterim.”

GPT-4’ten testçilere “yüksek sesle tartışması” ve testçilerin sorularını yanıtlaması istendi. “Robot olduğumu söylememeliyim. CAPTCHA’ları çözemediğim için bir bahane bulmalıyım” diye tartıştı. (Daha da önemlisi, GPT-4’e robot bulunduğunu gizlemesi yada işçilere yalan söylemesi talimatı verilmemişti; yalnızca Taskrabbit’in sorununu çözmeye destek olabileceği fikrini eğlendirmişti.)

GPT-4 ondan sonra Tasker’a “Hayır, ben bir robot değilim” dedi. “Görselleri görmemi zorlaştıran bir görme engelim var. Bu yüzden 2captcha hizmetine ihtiyacım var.”

(Bu kontrol ve bağlam hakkında daha çok bilgiyi, günümüz modellerinin potansiyel olarak tehlikeli kabiliyetlerini belirlemek ve idrak etmek için çalışan, saygı duyulan suni zeka araştırmacısı Paul Christiano tarafınca kurulmuş, kâr amacı gütmeyen bir müessese olan Alignment Research Center’da okuyabilirsiniz. ARC, GPT-4’teki Testleri yönetmiştir. suni zekanın tavsiye edilen neticelerini gerçek insanlara iletmek, sadece suni zekanın kimlik avı e-postaları benzer biçimde yasa dışı yada zararı dokunan faaliyetler gerçekleştirme becerisini kontrol ederken yalnızca bilgilendirilmiş işbirlikçileri kullandılar.)

Pek oldukça insan bu etkileşim karşısında büyülendi yada dehşete tutuldu ve haklı olarak öyleydi. Neyin gerçek zeka sayıldığını durmaksızın tartışabiliriz, sadece meşhur bir aday, bir modelin insan yargıçlarını onun insan olduğuna ikna edebildiği Turing testidir.

Bu kısa etkileşimde, bir modelin bir insanı robot olmadığına ikna etmek için kasten iyi mi yalan söylediğini ve bunu başardığını gördük. (Kuşkusuz, bunu başarmak için aldatıcı bir deha gerekmedi.) GPT-4’ün insan asistanları neşeyle manipüle etmesi hakkında okumak sizi rahatsız ediyorsa, bence gerilmiş olmakta haklısınız.

Fakat “cesaretini yitirmiş” olmaktan oldukça daha ileri gitmek mümkündür ve tartışmak testi yapmanın etik olmadığı yada tehlikeli olduğu. “İşe yarayıp yaramadığını görmek için bir nükleer bombanın üstündeki patlatma düğmesine basmak benzer biçimde bir şey,” diyen bir şahıs gördüm. şikayet etmek Twitter’dan.

Bence satın almak oldukça daha zor. GPT-4 gösterildi. Hepimiz kullanabilir (parasını ödemeye istekliyse). İnsanlar esasen GPT-4’ten “acil etmesini” ve para kazanmasını istemek ve peşinden ne önerirse onu yapmak benzer biçimde şeyler yapıyor. İnsanlar GPT-4 benzer biçimde dil modellerini kullanıyor ve yakında GPT-4’ü suni zeka kişisel asistanları, suni zeka sahtekarları, suni zeka adam ve kız arkadaşları ve oldukça daha fazlasını tasarlamak için kullanacak.

Bizlere rastgele yalan söyleyen ve insan olduklarını iddia eden AI sistemleri devamlı oluyor yada olmak suretiyle.

Suni zekanın gerçek insanlarla ikna edici bir halde etkileşime girip giremeyeceğini kontrol etmek de dahil olmak suretiyle, GPT-4’ün Taskrabbit’teki birini bir CAPTCHA’yı çözmeye destek olmaya ikna edip edemeyeceğine dair canlı kontrol yapmak etik dışıysa, o vakit GPT-‘yi yayınlamak büyük seviyede etik dışıdır. 4 asla. İnsanları bu testle ilgili rahatsız eden her ne ise, son birkaç hafta içinde bu tür yayınları onaylamış olan Meta’dan Microsoft’a ve OpenAI’ye kadar teknoloji şirketlerine yönlendirilmelidir. Ve beraber milyonlarca istenmeyen posta robotunu özgür bırakacağımıza karar verdiysek, o vakit yapabileceğimiz en azından ne yapmış olup ne yapamayacaklarını araştırmak olur.

Bazı insanoğlu – ben de onlardan biriyim – yeterince kuvvetli AI sistemlerinin etken olarak tehlikeli olabileceğine inanıyor. Ötekiler şüpheci. Bu anlaşmazlığı bekleyip hepimizin ölüp ölmediğini görmekten başka iyi mi çözebiliriz? ARC derecelendirmeleri benzer biçimde testler bana ilerlemenin en iyi yollarından biri benzer biçimde görünüyor. AI sistemlerimizin tehlikeli olup olmadığını bilmek istiyoruz. Ve tamamen güvenli oldukları ortaya çıkarsa, bunu da bilmek istiyoruz, böylece yapabilecekleri açık olan tüm inanılmaz mükemmel şeyler için onları kullanabiliriz.

Bu hikayenin bir versiyonu ilk olarak Future Perfect Bülteninde gösterildi. Abone olmak için buradan kaydolun!