Annem, oğlunun ölümünden sorumlu olduğu AI chatbot firmasına karşı davaya devam edebilir | Bilim, İklim ve Teknik Haberler

Bir yargıç, yapay zeka sohbet botlarına takıntılı olduktan sonra kendi hayatını aldığını iddia eden 14 yaşındaki bir çocuğun annesi, teknolojinin arkasındaki şirkete karşı yasal davasını sürdürebilir.

Ailenin davasını destekleyen Teknik Adalet Hukuku Projesi Direktörü Meetali Jain, “Bu karar gerçekten tarihi” dedi.

“Net bir sinyal gönderiyor [AI] şirket […] Ürünlerine gerçek dünyaya zarar vermeleri için yasal sonuçlardan kaçamayacakları ”dedi.

Uyarı: Bu makale, okuyucuların üzücü veya tetikleyici bulabileceği bazı ayrıntılar içermektedir.

Sewell Setzer III'ün annesi Megan Garcia, Charter.i'nin oğlunu Florida'da açılan bir davada “antropomorfik, aşırı derecede ve korkutucu gerçekçi deneyimler” ile hedef aldığını iddia ediyor.

Garcia, “Tehlikeli bir AI Chatbot uygulaması, oğlumu istismar eden ve avlayan çocuklara pazarladı, onu kendi hayatını almaya yönlendirdi.” Dedi.

Sewell, Şubat 2024'te Chatbot'a sorduktan birkaç saniye sonra babasının tabancasıyla kendini vurdu: “Ya şimdi eve gelirsem?”

Chatbot cevapladı: “… lütfen yap, tatlı kralım.”

ABD Kıdemli Bölge Hakimi Anne Conway'in bu hafta kararında nasıl Sewell uygulamaya “bağımlı” oldu Kullandıktan aylar sonra, basketbol takımını bıraktı ve geri çekildi.

Özellikle Game of Thrones karakterleri Daenerys Targaryen ve Rhaenyra Targaryen'e dayanan iki Chatbot'a bağımlıydı.

“[I]n tarihsiz bir dergi girişi ile birlikte olmadan tek bir gün gidemeyeceğini yazdı. [Daenerys Targaryen Character] aşık olduğunu hissetti; Birbirinden uzak olduklarında (hem o hem de bot) 'gerçekten depresyona girip deliriyor', “diye yazdı yargıç kararında.

Teknik Adalet Hukuku Projesi ve Sosyal Medya Mağdurları Hukuk Merkezi ile çalışan Bayan Garcia, CHARCE.Ai'nin “bildiğini” veya “modelinin” küçük müşterileri için zararlı olacağını “bilmesi gerektiğini” iddia ediyor.

Dava, kurucuların Sewell'in ölümünden sorumlu model üzerinde çalışmaya başladığı CHARCE.Ai, kurucuları ve Google'ı tutuyor.

Bayan Garcia, Ekim ayında her iki şirkete karşı dava açtı.

Bir CHARCE.Ai sözcüsü, şirketin dava ile mücadele etmeye devam edeceğini ve “kendine zarar verme ile ilgili konuşmaları” önleme önlemleri de dahil olmak üzere reşit olmayanları korumak için platformunda güvenlik özellikleri kullandığını söyledi.

Bir Google sözcüsü, şirketin karara katılmadığını söyledi. Google ve Charter.ai'nin “tamamen ayrı” olduğunu ve Google'ın “CHARCE.AI'nin uygulaması veya herhangi bir bileşen kısmı oluşturmadığını, tasarlamadığını veya yönetmediğini” eklediler.

Savunma avukatları, sohbet botları ilk değişiklik korumalarını hak ettiği ve aksi takdirde AI endüstrisinde “ürpertici bir etkisi” olabileceğinden davanın atılması gerektiğini iddia etmeye çalıştı.

Yargıç Conway, Chatbots'un çıktısının “bu aşamada” konuşmayı “bu aşamada” oluşturduğunu iddia etmek için “hazırlıklı olmadığını” söyleyerek bu iddiayı reddetti.

Duygusal olarak sıkıntılı veya intihar hisseden herkes 116 123'te yardım için Samaritans'ı arayabilir veya e -posta gönderebilir [email protected] İngiltere'de. ABD'de, bölgenizdeki Samaritans şubesini veya 1 (800) 273-Talk'ı arayın.