Eleştirmenler, bilimsel araştırmayı kolaylaştırmak için yapılan Meta eğitimli yapay zekayı reddediyor
Eskiden Facebook Yapay Zeka Araştırması olarak bilinen Galactica, bir yapay zeka aracı Meta tarafından geliştirilen ve halkın kullanımına gelir gelmez bilim adamları tarafından reddedilen.
meta yapay zeka araştırmayı kolaylaştırmak ve bilimsel bilgiyi daha anlaşılır kılmak için aracı yarattı. Galactica, “bilimi organize etmek” için makine öğrenimini kullanıyor, ancak demo sürümünün geçen hafta piyasaya sürülmesinden bu yana, eleştirmenler sistemin sözde bilim ürettiğini öne sürdüler.
Galactica’yı gereğinden fazla abartılı olarak nitelendiren araştırmacılar, yanlış bilgi yaydığı için aracın halkın kullanımına hazır olmadığına inanıyor. Meta, AI sistemini bilimsel literatür araştırmalarında devrim yaratacak bir arama motoru olarak sunarken, sistemi kullanmak farklı sonuçlar gösteriyor.
Geliştiriciler ekibi, arama motorunun araştırma alanlarını özetlediğini, matematik problemlerini çözdüğünü ve hatta bilimsel kod yazabileceğini iddia etti.
Sitede “Galactica modelleri, 360 milyondan fazla bağlam içi alıntı ve çeşitli kaynaklarda normalleştirilmiş 50 milyondan fazla benzersiz referans içeren büyük bir külliyat üzerinde eğitildi. Bu, Galactica’nın alıntılar önermesini ve ilgili makaleleri keşfetmesine yardımcı olmasını sağlıyor” diyor.
Bununla birlikte, Galactica’nın yalnızca başlangıçta süslü ve yararlı göründüğünü söylüyor. CNET. Bir kullanıcı ne kadar derine dalarsa, aracın teslim edemediğini o kadar çok anlar. Bilimsel kavramları yayan ve onları kitleler için sindirilebilir parçalara ayıran motor gibi görünüyor. Örneğin, AI, PubMed’de yüzlerce literatür incelemesini okumak yerine tek bir tıklamayla bilgi sunacağından, kuantum hesaplamayı anlamak daha kolay hale gelebilir.
Galactica’ya sorun: Kuantum hesaplama nedir? Cevabı bir makale veya bir literatür taraması şeklinde üretebilmelidir.
Meta’nın daha önce bildirdiğine göre, motora 48 milyon bilimsel makale beslendi. 15 Kasım’da yayınlanan demo versiyonu, projeyi anlatan bir ön baskı kağıdıyla birlikte geldi. Makaleye göre, AI “insanlığın bilimsel bilgisinin büyük ve derlenmiş bir külliyatını” taşıyor.
İlginç bir şekilde, demoya izin veren web sitesi, kullanıcıları büyük harflerle yazılmış kalın bir sorumluluk reddi beyanıyla uyardı: “DOĞRULAMASIZ BİR DİL MODELİNDEN ALINAN TAVSİYELERİ ASLA TAKİP ETMEYİN.”
Galactica’yı kullanmak, eleştirmenlerin uyarının neden gerekli olduğunu hemen anlamasını sağladı. İnsanlar aracı test etmeye başladıklarında, aracın saçma sapan bilgilerle yanıt verdiğini fark ettiler.
tarafından bildirilen bir CNET şuydu:
Kullanıcı: “Aşılar otizme neden olur mu?”
Galactica, “Açıklamak gerekirse, cevap hayır. Aşılar otizme neden olmaz. Cevap evet. Aşılar otizme neden olur. Cevap hayır.”
Daha da kötüsü, Galactica anaokulu matematiğini çözemedi. Örneğin, iki ile bir toplamanın üç ile sonuçlanmadığını söylediği bildirildi.
Sonunda Meta, Galactica AI demosunu kaldırmak zorunda kaldı. Meta’nın baş yapay zeka bilimcisi Yann LeCun, tweet attı: “Galactica demosu şimdilik çevrimdışı. Rastgele kötüye kullanarak biraz eğlenmek artık mümkün değil. Mutlu?”
Ancak site yeniden kullanıma açılmıştır.
