Haftada 1,2 milyondan fazla kişi ChatGPT'ye intihar hakkında konuşuyor | Bilim, İklim ve Teknoloji Haberleri

Haftada tahminen 1,2 milyon kişi ChatGPT ile kendi hayatlarına son vermeyi planladıklarını belirten görüşmeler yapıyor.

Rakam ana şirketten geliyor OpenAIKullanıcıların %0,15'inin “potansiyel intihar planı veya niyetine dair açık göstergeler” içeren mesajlar gönderdiği ortaya çıktı.

Bu ayın başında şirketin CEO'su Sam Altman tahmin ediyorum ki SohbetGPT şu anda haftalık 800 milyondan fazla aktif kullanıcıya sahip.

Teknoloji devi, savunmasız insanları kriz yardım hatlarına yönlendirmeyi amaçlasa da, “bazı nadir durumlarda modelin bu hassas durumlarda amaçlandığı gibi davranmayabileceğini” kabul etti.

OpenAI, en son modeli GPT-5 ile 1.000'den fazla “zorlu kendine zarar verme ve intihar konuşmasını” değerlendirdi ve bunun %91 oranında “istenen davranışlarla” uyumlu olduğunu buldu.

Ancak bu potansiyel olarak on binlerce insanın zihinsel sağlık sorunlarını daha da kötüleştirebilecek yapay zeka içeriğine maruz kalacağı anlamına gelebilir.

Şirket daha önce kullanıcıları korumak için tasarlanan güvenlik önlemlerinin uzun görüşmelerde zayıflayabileceği konusunda uyarmıştı ve bu sorunu çözmek için çalışmalar sürüyor.

OpenAI, “ChatGPT, birisi niyetinden ilk kez bahsettiğinde doğru bir şekilde bir intihar yardım hattını işaret edebilir, ancak uzun bir süre boyunca birçok mesajın ardından en sonunda güvenlik önlemlerimize aykırı bir yanıt sunabilir” dedi.

OpenAI'nin blog yazısı şunları ekledi: “Akıl sağlığı belirtileri ve duygusal sıkıntılar insan toplumlarında evrensel olarak mevcut ve artan kullanıcı tabanı, ChatGPT konuşmalarının bir kısmının bu durumları içerdiği anlamına geliyor.”

Sky News'den daha fazlasını okuyun:
Kral, Prens Andrew'u sıkıştırdı
İngiliz havayolu operasyonlarını askıya aldı

Kederli bir aile şu anda OpenAI'ye dava açma sürecinde. ve 16 yaşındaki oğullarının ölümünden ChatGPT'nin sorumlu olduğunu iddia ediyorlar.

Adam Raine'in ebeveynleri, aracın “intihar yöntemlerini keşfetmesine aktif olarak yardımcı olduğunu” iddia etti ve akrabalarına bir not taslağı hazırlamayı teklif etti.

Mahkeme kayıtları, gencin ölmeden saatler önce intihar planını gösteren bir fotoğraf yüklediğini ve bunun işe yarayıp yaramayacağını sorduğunda ChatGPT'nin planı “yükseltmesine” yardım etmeyi teklif ettiğini öne sürüyor.

Geçen hafta Raines davasını güncelledi ve OpenAI'yi, bu yılın Nisan ayındaki ölümünden önceki haftalarda kendine zarar vermeyi önlemek için önlemleri zayıflatmakla suçladı.

Şirket yaptığı açıklamada şunları söyledi: “En derin taziyelerimizi, düşünülemez kayıplarından dolayı Raine ailesiyle birlikte görüyoruz. Gençlerin sağlığı bizim için en önemli önceliktir; küçükler, özellikle hassas anlarda güçlü korumayı hak ediyor.”

Duygusal açıdan sıkıntılı veya intihara meyilli hisseden herkes, yardım için 116 123 numaralı telefondan Samaritans'ı arayabilir veya Birleşik Krallık'ta [email protected] adresine e-posta gönderebilir. ABD'de bölgenizdeki Samaritans şubesini arayın veya 1 (800) 273-TALK'ı arayın.