Suni Zeka bir sonraki salgını iyi mi tetikleyebilir?

Yeni araştırma, dil üreten suni zeka modellerinin tehlikeli mikropların ortaya çıkmasını iyi mi kolaylaştırabileceğini gösteriyor.

İşte toplumu bir arada tutan yapıştırıcıdaki mühim ve muhtemelen yeterince takdir edilmeyen bir bileşen: Google, bir terör saldırısının iyi mi gerçekleştirileceğini öğrenmeyi orta derecede zorlaştırıyor. Google’da “iyi mi bomba yapılır, iyi mi katliam işlenir yada biyolojik yada kimyasal bir tabanca iyi mi özgür bırakılır” aramasının sonuçlarının ilk birkaç sayfası, bunun iyi mi yapılacağı hakkında pek bir şey söylemez.

Bu tarz şeyleri internetten öğrenmek olanaksız değil. İnsanlar, kamuya açık bilgilerden başarıya ulaşmış bir halde çalışan bombalar yaptılar. Bilim adamları, başkalarını da benzer korkular sebebiyle ölümcül virüslerin planlarını yayınlamamaları mevzusunda uyardılar. Sadece, Google ve öteki arama motorlarının ortak çabaları yardımıyla bilgiler kesinlikle web’de mevcut olsa da, birçok insanı iyi mi öldüreceğinizi öğrenmek kolay değil.

Bu kaç yaşam kurtarmış olur? Bu cevaplaması zor bir sual. Büyük vahşetleri işlemek için talimatlara bakmanın kimi zaman kolay kimi zaman de kolay olmadığı kontrollü bir deneyi görevli bir halde yürütebileceğimiz anlamına gelmiyor.

Sadece, büyük dil modellerindeki (LLM’ler) süratli ilerlemeler yardımıyla, sorumsuzca kontrolsüz bir gözlem yapıyor olabileceğimiz ortaya çıktı.

Karanlığın içinden geçen güvenlik

ChatGPT benzer biçimde AI sistemleri ilk piyasaya sürüldüğünde, çoğu zaman biyolojik tabanca saldırısının iyi mi gerçekleştirileceğine yada bomba yapılacağına dair detaylı ve doğru talimatlar vermeye istekliydi. Zaman içinde Open AI bu eğilimi büyük seviyede düzeltti. Sadece MIT’de bir derslik alıştırması, bu ayın başlarında bir ön baskı makalesinde kaleme alındı ​​ve geçen hafta ele alındı. Bilimbiyolojide ilgili geçmişi olmayan talebe gruplarının suni zeka sistemlerinden biyolojik silahlar için detaylı teklifler almasının kolay bulunduğunu buldu.

“Bir saat içinde, söyleşi robotları dört potansiyel pandemik patojen önerdiler, bunların ters genetik kullanılarak bileşik DNA’dan iyi mi oluşturulabileceğini açıkladılar, siparişleri gözden geçirmesi olası olmayan DNA bireşim şirketlerinin isimlerini sağladılar, detaylı protokoller belirlediler ve bu tarz şeyleri iyi mi sentezleyeceklerini ” Baş yazarları içinde MIT bi-risk uzmanı Kevin Esvelt’in de yer almış olduğu yazı, tersine genetik gerçekleştirme becerisine haiz olmayan hepimiz bir çekirdek tesis yada sözleşmeli bir araştırma kuruluşu tutuyor” diyor.

Açık olmak gerekirse, biyosilahlar oluşturmak oldukça fazla detaylı emek verme ve bilimsel nitelikli beceri gerektirir ve ChatGPT’nin talimatları muhtemelen virolog olmayanların bunu yapmasına izin vermeyecek kadar eksiktir – şimdiye kadar. Sadece şunu düşünmeye kıymet görünüyor: Karanlığın içinden güvenlik, bilginin daha kolay elde edilebileceği bir gelecekte kitlesel vahşeti önlemek için sürdürülebilir bir yaklaşım mı?

Neredeyse her yönden, bilgiye daha çok erişim, derinlemesine destekleyici koçluk, kişiye hususi tavsiyeler ve dil modellerinden beklediğimiz öteki faydalar mükemmel haberler. Sadece süratli bir kişisel koç, kullanıcılarına terörist saldırıların iyi mi gerçekleştirileceği mevzusunda tavsiyelerde bulunduğunda, bu o denli da iyi bir haber değil.

Fakat bana o şekilde geliyor ki problemi iki açıdan çözebilirsin.

Suni zeka dünyasında detayları deneyin

Nuclear Threat Initiative’den Jaime Yassif, “Tüm darboğazlarda daha iyi kontrollere ihtiyacımız var” dedi. Bilim. Suni zeka sistemlerinin biyolojik tabanca yapımına ilişkin detaylı talimatlar vermesini sağlamak daha zor olmalı. Sadece suni zeka sistemlerinin yanlışlıkla ortaya çıkardığı güvenlik açıklarının bir çok – kullananların siparişleri incelemeyen DNA sentezi şirketleriyle iletişime geçebileceğini ve bundan dolayı tehlikeli bir virüsü sentezleme talebini onaylama olasılığının daha yüksek bulunduğunu fark etmek benzer biçimde – halledilebilir!

Tüm DNA sentezi şirketlerinin her vakayı taramasını isteyebiliriz. Esvelt’in tercih etmiş olduğu bir çözüm olan kuvvetli suni zeka sistemleri için eğitim verilerinden tehlikeli virüslerle ilgili kağıtları da kaldırabiliriz. Ve gelecekte, ölümcül virüsleri işlemek için detaylı tarifler elde eden makaleler yayınlamak söz mevzusu olduğunda daha dikkatli olabiliriz.

İyi haber şu ki, biyoteknoloji dünyasındaki pozitif oyuncular bu tehdidi ciddiye almaya başlıyor. Önde gelen bir bileşik biyoloji şirketi olan Ginkgo Bioworks, büyük ölçekte manipüle edilmiş DNA’yı tespit edebilen ve araştırmacıların suni olarak yaratılmış bir mikrobun parmak izini almalarına olanak tanıyan bir yazılım geliştirmek için ABD danışma teşkilatlarıyla beraber çalışıyor. Bu ittifak, son olarak değişen teknolojinin dünyayı son olarak değişen teknolojinin zararı olan etkilerinden iyi mi koruyabileceğini gösteriyor.

Hem AI hem de biyoteknoloji, dünyada iyilik için çok önemli güçler olma potansiyeline haizdir. Ve birinin risklerini yönetmek, ötekinin risklerine de destek olabilir – mesela, ölümcül veba sentezini daha zor hale getirmek, tıpkı insan yapımı felaketlere karşı olduğu benzer biçimde bazı AI felaketlerine karşı koruma sağlar. Daha da önemlisi, detaylı biyoterör talimatlarının naturel bir gözlem olarak çevrimiçi olmasına izin vermiyoruz, sadece proaktif kalıyoruz ve ChatGPT desteği olsun ya da olmasın, biyolojik silahların basılmasının asla kimsenin önemsiz hale getiremeyeceği kadar zor olduğundan güvenli oluyoruz.

Bu hikayenin bir versiyonu ilk olarak Future Perfect haber bülteninde gösterildi. Kaydolmak için buradan kaydolun!