Trump'ın Anthropic'e öfkeli tepkisi yapay zeka güvenliğiyle olduğu kadar güçle de ilgili | Bilim, İklim ve Teknoloji Haberleri

Trump yönetimi, yapay zeka güvenliği konusunda şimdiye kadarki en açık ve sonuç niteliğindeki politika hamlesiyle, askeri amaçlarla teknolojisine sınırsız erişime izin vermeyi reddettiği için önde gelen bir yapay zeka laboratuvarını kara listeye alacağını duyurdu.

Başkan ve onun savaş bakanı Pete Hegseth nükleere gidiyor Anthropic'in Pentagon'un yapay zekasını “herhangi bir yasal amaç için” kullanmasına izin vermeyi reddetmesi.

Anthropic'i uyanık, radikal sol bir şirket olarak tanımlayan ABD başkanı, Truth Social platformunda “Anthropic'teki Solcu kaçık işleri, Savaş Bakanlığı'nı GÜÇLÜ KOLLANDIRMAYA çalışırken feci bir HATA yaptı” dedi ve şirketin eylemlerinin Amerikalıların hayatlarını ve ulusal güvenliğini tehlikeye attığını ekledi.

Ancak şimdiye kadar Anthropic, Pentagon'u desteklemek için diğer tüm yapay zeka laboratuvarlarından daha fazlasını yapıyordu.

Anthropic'in Claude AI'si, hassas askeri planlama ve operasyonlar için halihazırda yaygın olarak kullanılan tek sınır modelidir.

Claude AI'nin, Ocak ayında Venezüella Devlet Başkanı Nicolas Maduro'yu yakalamaya yönelik askeri operasyonu planlamak ve yürütmek için Pentagon'un “Maven Akıllı Sistemi”nin bir parçası olarak kullanıldığı yaygın olarak bildirildi.

Anlaşmazlığın kökeni Anthropic'in ABD ordusuna olan bağlılığıyla ilgili değildi; bunun yerine yapay zeka teknolojisinin kullanımıyla ilgili “kırmızı çizgiler” üzerindeki ısrarı.

Anthropic'in CEO'su Dario Amodei, bunun sivillerin kitlesel gözetimi veya insan gözetimi olmadan ölümcül otomatik saldırılar için kullanılmayacağına dair güvence talep etti.

Çarşamba günü yaptığı açıklamada Amodei, yapay zekanın bazı kullanımlarının “bugünün teknolojisinin güvenli ve güvenilir bir şekilde yapabileceklerinin sınırlarının tamamen dışında” olduğunu söyledi.

Sekreter Hegseth, X hakkındaki bir gönderide, başkanınki kadar ateşli bir gönderide, Anthropic'in kara listeye alınmasının yanı sıra Tedarik Zinciri Riski olarak da belirleneceğini duyurdu; bu, daha önce ABD ulusal güvenliğine doğrudan tehdit olarak görülen yabancı teknoloji şirketlerine ayrılmış bir yasal müdahaleydi.

Devamını oku:
Yapay zeka o kadar hızlı gelişiyor ki ölçülmesi zorlaşıyor'
AI balonu şimdilik bozulmadan kalıyor

Yapay Zeka güvenliğine ilişkin artan endişeler göz önüne alındığında, bu, Yapay Zeka güvenliği kampanyacılarını şok eden bir hamle, ancak aynı zamanda Pentagon'un “Önce Yapay Zeka” stratejisinin gelecekte uygulanabilirliği hakkında ciddi soruları da gündeme getiriyor.

Paylaşmak

Pentagon yapay zeka şirketini neden tehdit etti?

Bakan Hegseth, Anthropic'e yapay zekasını Pentagon'un sistemlerinden çıkarması için altı ay süre verdi. Ancak şimdi onun yerine ne koyabileceği konusunda sorular var.

Süper akıllı yapay zekanın kısa tarihinde ilk kez, bu sıra yapay zeka endüstrisini birleştiriyor gibi görünüyor.

Pentagon ile de görüşmelerde bulunan OpenAI CEO'su Sam Altman, perşembe günü personele gönderdiği bir notta, Anthropic ile aynı “kırmızı çizgileri” paylaştığını duyurdu.

Ayrı ayrı, Google ve OpenAI'deki 400'den fazla çalışan, endüstrilerini Savaş Bakanlığı'nın tutumuna karşı birlikte durmaya çağıran açık bir mektup imzaladı.

Sky News tarafından görülen OpenAI notunun bir kopyasında Altman personele şunları söylüyor: “Buraya nasıl geldiğimize bakılmaksızın, bu artık sadece Anthropic ile DoW arasındaki bir sorun değil; bu tüm sektörü ilgilendiren bir sorun ve duruşumuzu netleştirmek önemli.”

Bu nedenle Trump yönetiminin hamlesi yapay zeka güvenliğiyle ilgili olduğu kadar güçle de ilgili gibi görünüyor.

Pentagon, ABD nüfusunun kitlesel gözetimi için yapay zekayı veya denetimsiz otonom silahları kullanmayacağını zaten söylemişti.

Anthropic'e verdiği öfkeli tepki, bu terimlerin gerçekte ne olduğundan ziyade, hükümete şartlar dikte etmeye çalışan büyük bir teknolojiye yanıt olarak görünüyor.

Her ne kadar yapay zeka yatırımları ABD'nin mevcut ekonomik büyümesinin çoğunu oluştursa da Silikon Vadisi'ni ele geçirirken yönetim, güçlü bir rakibe savaş ilan etti.