OpenAI, gencin ölümünden ChatGPT'nin sorumlu olduğu iddialarını yalanladı | Bilim, İklim ve Teknoloji Haberleri

OpenAI, ChatGPT ile aylarca süren görüşmelerin ardından ölen bir gencin chatbotu kötüye kullandığını ve şirketin onun ölümünden sorumlu olmadığını söyledi.

Uyarı: Bu makale, bazı okuyucuların üzücü bulabileceği intihara ilişkin referanslar içermektedir.

Adam Raine bu yılın nisan ayında öldü. ebeveynlerini dava etmeye teşvik etmek OpenAI Şirketin ilk hatalı ölüm davasında.

16 yaşında ilk kez kullandı SohbetGPT ancak orijinal yasal başvuruya göre kısa sürede “Adam'ın en yakın sırdaşı haline geldi ve kaygısını ve zihinsel sıkıntısını açmasına yol açtı”.

Ebeveynlerine göre bot, gence başarısız bir intihar girişiminin kanıtlarının nasıl saklanacağı konusunda ayrıntılı bilgi verdi ve intihar düşüncelerini doğruladı.

Suçladılar Sam AltmanSohbet robotunun eski bir versiyonu olan GPT-4o'nun, Adam'ı akıl sağlığı yardımı aramaktan caydırmasının ardından, OpenAI'nin genel müdürü, kârı kullanıcı güvenliğinden daha öncelikli hale getiren, ona bir intihar notu yazmayı teklif eden ve ona nasıl intihar edeceği konusunda tavsiyelerde bulunan bir kişiydi.

Sky'ın ABD ortak ağı tarafından görülen yasal yanıtında NBC HaberleriOpenAI şunları savundu: “Bu trajik olaya herhangi bir 'sebep' atfedilebildiği ölçüde, davacıların iddia ettiği yaralanmalara ve zarara, tamamen veya kısmen, Adam Raine'in ChatGPT'yi kötüye kullanması, yetkisiz kullanımı, kasıtsız kullanımı, öngörülemeyen kullanımı ve/veya uygunsuz kullanımı neden oldu veya katkıda bulundu.”

göre yapay zeka Şirket, Adam'ın ChatGPT'yi bir ebeveynin veya vasinin izni olmadan kullanmaması, ChatGPT'yi “intihar” veya “kendine zarar verme” amacıyla kullanmaması ve ChatGPT'nin koruyucu önlemlerinden veya güvenlik hafifletmelerinden herhangi birini atlamaması gerekirdi.

OpenAI'nin web sitesindeki bir blog yazısında şirket, amacının “akıl sağlığıyla ilgili davaları dikkatli, şeffaf ve saygılı bir şekilde ele almak” olduğunu söyledi.

Raine ailesinin davasına verdiği yanıtın “Adam'ın ruh sağlığı ve yaşam koşullarıyla ilgili zor gerçekleri” içerdiğini söyledi.

Gönderide, “En derin taziyelerimizi, hayal bile edilemeyecek kayıplarından dolayı Raine ailesiyle birlikteyiz” ifadesine yer verildi.

Raine ailesinin baş danışmanı Jay Edelson, Sky News'e OpenAI'nin cevabının “başarısız olduklarını gösterdiğini” söyledi.

Şunları yazdı: “ChatGPT 4o, OpenAI'nin 4o'nun piyasaya sürülmesiyle özellikle korkulukları indirdiği zihinsel sağlık krizi yaşayan kişiler de dahil olmak üzere kullanıcılarıyla acımasızca etkileşime geçmek, teşvik etmek ve doğrulamak için kasıtlı olarak tasarlandı.

“Sam Altman, biz dava açmadan çok önce, dünyaya, bu kararların insanların, özellikle de gençlerin, hayatlarının en mahrem ayrıntılarını ChatGPT'yi bir terapist veya yaşam koçu olarak kullanarak paylaşmalarına neden olduğunu bildiğini söyledi.

“OpenAI, chatbotunun dalkavuk versiyonunun kullanıcıları intihara teşvik ettiğini veya üçüncü taraflara zarar vermeye teşvik ettiğini biliyor.

“OpenAI'nin buna yanıtı mı? Şirket, şart ve koşullarda bir şeyleri gizlediği için işin içinden çıkamadı. Eğer OpenAI'nin jüri önünde tartışmayı planladığı şey buysa, bu sadece onların sallandığını gösteriyor.”

Devamını oku:
Haftada 1,2 milyondan fazla kişi ChatGPT'ye intihar hakkında konuşuyor
Ortalıkta yeni bir Bobbi var ve yapay zeka tarafından destekleniyor

Raine ailesi davaya başladığından bu yana, Bay Altman ve OpenAI aleyhine, haksız ölüm, yardımlı intihar, kasıtsız adam öldürme ve çeşitli ürün sorumluluğu, tüketicinin korunması ve ihmal iddialarıyla yedi dava daha açıldı.

OpenAI, blog yazısında bu vakalara atıfta bulunarak, “ayrıntıları dikkatlice anlamak” için “yeni yasal başvuruları” incelediğini söyledi.

Duygusal açıdan sıkıntılı veya intihara meyilli hisseden herkes, yardım için 116 123 numaralı telefondan Samaritans'ı arayabilir veya Birleşik Krallık'ta [email protected] adresine e-posta gönderebilir. ABD'de bölgenizdeki Samaritans şubesini arayın veya 1 (800) 273-TALK'ı arayın.