Yapay zeka sohbet botları ile etkileşimlerden sonra kendilerini öldüren gençlerin ebeveynleri, Salı günü teknolojinin tehlikeleri hakkında Kongre’ye tanıklık ediyor.
California’dan 16 yaşındaki Adam Raine’in babası Matthew Raine ve Florida’dan 14 yaşındaki Sewell Setzer III’ün annesi Megan Garcia, AI chatbots’un ortaya koyduğu zararlar hakkında bir Senato duruşmasıyla konuşacak.
Raine’nin ailesi, geçen ay Openai ve CEO’su Sam Altman’a dava açtı ve Chatgpt’in Nisan ayında kendi hayatını almayı planlamak için çocuğa koçluk yaptığını iddia etti. Chatgpt, Raine’ye 1,275 kez intihardan bahsetti, dava iddia ediyorve intiharla nasıl öleceğine dair gençlere özel yöntemler sağlamaya devam etti. Dava, 16 yaşındaki çocuğu profesyonel yardım almaya veya güvenilir sevdikleriyle konuşmaya yönlendirmek yerine, Raine’in duygularını doğrulamaya ve teşvik etmeye devam ettiğini iddia ediyor.
Garcia, geçen yıl yanlış ölüm için başka bir AI şirketi olan karakter Applied sciences’e dava açtı ve intiharından önce Sewell’in chatbot ile son derece cinselleştirilmiş konuşmalar yaparken gerçek hayatından giderek daha fazla izole edildiğini savundu.
Annesi geçen yıl CBS Information’e oğlunun geri çekildi Sosyal olarak ve bir AI chatbot ile konuşmaya başladıktan sonra spor yapmak istemeyi bıraktı. Şirket, gencin ölümünden sonra, kullanıcıların olmasını gerektiren değişiklikler yaptığını söyledi. 13 veya daha büyük Bir hesap oluşturmak ve 2025’in ilk çeyreğinde ebeveyn kontrolleri başlatacak. Bu kontroller Mart ayında piyasaya sürüldü.
Senato duruşmasından saatler önce Openai, ChatGPT kullanıcılarının 18 yaşın altında olup olmadığını tespit etme çabaları ve bir gencin ChatGPT’yi kullanamadığı “karartma saatleri” ayarlamasını sağlayan kontroller de dahil olmak üzere gençler için yeni koruma sağlama sözü verdi. Şirket, 18 yaş altı bir kullanıcı intihar düşüncesine sahipse ve onlara ulaşamazsa, yakın zararlar durumunda yetkililerle iletişime geçeceğini söyledi.
Openai CEO’su Sam Altman, “Küçüklerin önemli korumaya ihtiyacı olduğuna inanıyoruz.” söz konusu Önerilen değişiklikleri özetleyen bir açıklamada.
Çocuk savunuculuk grupları duyuruyu yeterli değildi.
“Bu oldukça yaygın bir taktiktir – Meta’nın her zaman kullandığı bir taktiktir – bu, şirkete zarar vermeyi vaat eden bir duruşmanın arifesinde büyük, sıçrayan bir duyuru yapmaktır.” Dedi.
Golin, “Yapmaları gereken şey, onlar için güvenli olduğunu kanıtlayana kadar chatgpt’i küçüklere hedeflemiyor.” Dedi. Diyerek şöyle devam etti: “Şirketlerin, muazzam kaynakları olduğu için, gelişimlerinin sonuçları çok geniş ve geniş kapsamlı olabileceği zaman çocuklar üzerinde kontrolsüz deneyler yapmalarına izin vermemeliyiz.”
AI chatbots çevresinde eyalette güvenceler oluşturmak için mevzuat getiren California Eyalet Senatörü Steve Padilla bir açıklama CBS Information’e göre, “Teknoloji endüstrisinin bile tam olarak anlamadığı bu gelişmekte olan teknolojinin en kötü dürtülerini dizginleyen sağduyulu güven korumaları yaratmalıyız.”
Yetkili, teknoloji şirketlerinin inovasyonda dünyaya liderlik edebileceğini, ancak “çocuklarımızın sağlığı” pahasına gelmemesi gerektiğini de sözlerine ekledi.
Federal Ticaret Komisyonu geçen hafta, birkaç şirkete AI Chatbots’larını yoldaş olarak kullanan çocuklara ve gençlere potansiyel zararlar hakkında bir soruşturma başlattığını söyledi.
Ajans, karakter, Meta ve Openai’nin yanı sıra Google, Snap ve Xai’ye mektuplar gönderdi.
Nasıl Yardım Aranır
Siz veya tanıdığınız biri duygusal sıkıntı veya intihar krizinde ise, 988’i arayarak veya mesaj atarak 988 İntihar ve Kriz Yaşam Hattına ulaşabilirsiniz. 988 İntihar ve Kriz Yaşam Hattı ile de sohbet edebilirsiniz. Ruh sağlığı kaynakları ve desteği hakkında daha fazla bilgi için, Ulusal Akıl Hastalığı İttifakı (NAMI) yardım hattına Pazartesi-Cuma günleri saat 10: 00-10: 00 ET, 1-800-950-nami (6264) veya information@nami.org adresine e-posta ile ulaşılabilir.
Cara Tabachnick bu rapora katkıda bulundu.
