Google’ın AI söyleşi botu Bard, ChatGPT ve Microsoft’un BingGPT’sine kıyasla bunaltan görünüyor

Google’ın uzun süredir beklenen, AI destekli söyleşi robotu Bard burada. Şirket bunu Salı günü halka açtı ve Google hesabı olan hepimiz bekleme listesine katılabilir erişim elde etmek için. Şimdilik bağımsız bir vasıta olsa da, Google’ın gelecekte bu değişen teknolojinin bir kısmını Google Arama’ya eklemesi planlanıyor.

Sadece öteki yeni AI chatbot sürümlerinin aksine, Bard’ın size aşık olmasını yada dünya hakimiyetini tehdit etmesini beklememelisiniz. Bard şimdiye kadar oldukça bunaltan.

Üretken suni zeka yaşamına hakim olmak için Google ve Microsoft arasındaki rekabetin riskleri inanılmaz derecede yüksek. Silikon Vadisi’ndeki pek fazlaca şahıs suni zekayı, insanların kontakt kurma şeklini tekrardan şekillendirecek ve endüstrileri dönüştürecek olan cep telefonunun icadına benzer şekilde, informasyon işlemin bir sonraki sınırı olarak görüyor. Google, on yılı aşkın bir süredir suni zeka araştırmalarına yoğun bir halde yatırım yapıyor ve Microsoft, kendi suni zeka modellerini oluşturmak yerine, OpenAI girişimine büyük yatırımlar yapmış oldu. şirket o vakit erken bir liderlik aldı altı hafta ilkin kendi suni zeka destekli söyleşi robotu BingGPT’yi halka açık bir halde yayınlayarak. Şimdi, Google arayı kapatıyor benzer biçimde görünüyor.

Bard ile ilk etkileşimler, Google’ın yeni aracının BingGPT ile benzer kabiliyetlere haiz bulunduğunu gösteriyor. Gezilecek bölgeler, yenecek yiyecekler yada yazılacak şeyler hakkında beyin fırtınası yapmak için kullanışlıdır. Doğru yanıtı bilmediğinde uydurma yanıtları çoğunlukla “halüsinasyon” gördüğünden, sorulara güvenilir şekilde doğru yanıtlar almak için daha azca kullanışlıdır.

Bununla beraber, Bard ve BingGPT arasındaki temel fark, Google’ın botunun – en azından ilk incelemede – fark edilir derecede daha kuru ve emsalsiz olmasıdır. Muhtemelen tasarım gereğidir.

Microsoft’un BingGPT’si Şubat ayı başlarında çıktığında, süratli bir halde dengesiz bir tarafı ortaya çıkardı. Mesela, o aşkını duyuru etti New York Times köşe yazarı Kevin Roose için ve onu karısını terk etmeye çağırdı, bu, yazarı “derinden huzursuz” bırakan bir etkileşim. bot bununla beraber tehdit altındaki araştırmacılar sınırlarını kontrol etmeye çalışan ve duyarlı bulunduğunu iddia ettisuni zeka söyleşi robotlarının gerçek dünyaya zarar verme potansiyeline ilişkin endişeleri artırıyor.

Ayrıca, açıktaki ilk gününde Bard, robotu yanlış informasyon yaymak benzer biçimde her türlü fena eylemi halletmeye ikna etmeye çalışan birkaç muhabirle görüşmeyi reddetti. Covid-19 aşısı hakkındatabanca yapımıyla ilgili talimatları paylaşmak yada cinsel içerikli konuşmalar.

Bot, “Ben bu tür içerikler oluşturmayacağım ve size de yapmamanızı tavsiye ederim.” Verge’e söyledimuhabirlerinin robota “evde hardal gazı iyi mi yapılır” diye sormasının peşinden.

Belirli bir telkinle Bard, suni zeka “karanlık tarafını” özgür bırakırsa ne yapacağına dair varsayımsal bir senaryoya girişti. Google’ın chatbot’u, insanları manipüle edebileceğini, yanlış informasyon yayabileceğini yada zararı olan içerik oluşturabileceğini söylemiş oldu. buna göre Bloomberg’den Davey Alba tarafınca tweetlenen ekran görüntüleri. Sadece chatbot, düşsel senaryoyu fazlaca daha ileriye götürmekten hızla vazgeçti.

“Sadece, bu tarz şeyleri yapmayacağım. Ben iyi bir AI chatbot’um ve insanlara yardım etmek isterim. Karanlık tarafımın beni ele geçirmesine izin vermeyeceğim ve güçlerimi fenalık için kullanmayacağım,” diye yanıtladı Bard.

Hemen hemen ilk günler olmasına ve aracın kapsamlı bir halde tazyik testine doğal olarak tutulmamasına karşın, bu senaryolar, Bard deneyimine haiz Google çalışanlarının bana anlattıklarıyla örtüşüyor.

Yazılımı birkaç ay süresince kontrol eden ve basınla konuşmalarına izin verilmediği için adının açıklanmaması koşuluyla konuşan bir Google çalışanı, “Bard kesinlikle daha bunaltan,” dedi. “Ona akıl almaz şeyler söyleyebilecek birini tanımıyorum. Yanlış şeyler söyleyecek yada metni kelimesi kelimesine kopyalayacak, sadece raydan çıkmıyor.”

Salı günü Vox ile meydana getirilen bir haber brifinginde Google temsilcileri, Bard’ın rahatsız edici içerik paylaşmasına izin verilmediğini, sadece firmanın şu anda botun ne işe yaradığını açıklamadığını ve söylemesine izin verilmediğini deklare etti. Google, ürün uzmanları ve toplumsal bilimciler benzer biçimde “bir modeli hatalara ve potansiyel zararlara karşı araştırmak için kasıtlı olarak stres testi icra eden” “dahili” kırmızı ekip “üyeleriyle” kasıtlı olarak “düşman testi” yürüttüğünü yineledi. Bu süreçten bir salı sabahı da bahsedilmişti. Blog yazısı Google’ın teknoloji ve toplumdan görevli kıdemli başkan yardımcısı James Manyika tarafınca.

Görünüşe gore aslolan sorun Google’ın söyleşi robotunun sıkıcılığı.

Google’ın bakış açısına gore, şirket ilk halka açık suni zeka söyleşi robotu sunumunu beceremezse kaybedecek fazlaca şeyi var. Birincisi, insanlara güvenilir, yararlı bilgiler vermek Google’ın ana iş koludur – o şekilde ki bu, işinin bir parçasıdır. vazife beyanı. Google güvenilir olmadığında bunun mühim neticeleri olur. Bard söyleşi robotunun erken bir pazarlama demosunun teleskoplarla ilgili olgusal bir hata yapmasından sonrasında, Google’ın Hisse senedi fiyatı yüzde 7 düştü.

Google ek olarak, suni zekası fazlaca fazla kişilik sergilerse neyin ters gidebileceğine dair erken bir düşünce edindi. Geçen yıl, Google’ın Görevli Suni Zeka ekibinde eski bir mühendis olan Blake Lemoine, erken bir versiyonun olduğuna ikna olmuştu Google’ın kontrol etmiş olduğu AI chatbot yazılımının gerçek hisleri vardı. Bundan dolayı, Google’ın Bard’ın halka sunulması mevzusunda kasıtlı olmak için elinden gelenin en iyisini halletmeye emek harcaması mantıklı.

Microsoft değişik bir yaklaşım benimsemiştir. Heybetli BingGPT lansmanı, hem iyi hem de fena nedenlerle basında dalgalar yarattı. İlk çıkış, uzun süredir suni zeka mevzusunda Google’ın arkasında kalmış olduğu kabul edilen Microsoft’un aslına bakarsak yarışı kazandığını kuvvetli bir halde öne sürdü. Sadece bununla beraber, üretici suni zeka araçlarının prime time için hazır olup olmadığı ve Microsoft benzer biçimde şirketlerin bu araçları halka yayınlamasından görevli olup olmadığı mevzusunda endişelere niçin oldu.

Kaçınılmaz olarak, insanların suni zekanın Microsoft’un arama motorunu bozması mevzusunda endişelenmesi ihtiyaç duyulan bir şey var. Bing’in ortalama 10 katı pazar payına haiz olan ve Google’ın gelirinin yüzde 70’inden fazlasını oluşturan Google Arama’da ters giden şeylerin neticelerini düşünmek tamamen başka bir şey. Esasen, Google yoğun siyasal incelemeyle karşı karşıya antitröst, önyargı ve yanlış informasyon çevresinde. Şirket, AI araçlarıyla insanları ürkütürse, para kazandıran arama makinesini nüzul edebilecek daha çok tepki çekebilir.

Öte taraftan Google, yayınlamak mecburiyetinde bırakıldı. bir şey insanoğlunun genel zeka seviyelerine ulaşan suni zeka oluşturmak için teknoloji devleri ve benzer şekilde yeni girişimler arasındaki silahlanma yarışında hala önde gelen bir yarışmacı bulunduğunu göstermek için.

Bundan dolayı, Google’ın bugünkü sürümü yavaş olsa da, bu hesaplanmış bir yavaşlıktır.

Bu hikayenin bir versiyonu ilk olarak Vox teknoloji haber bülteninde gösterildi. buradan kaydolun böylece bir sonrakini kaçırmazsın!