Bugünden itibaren Openai ebeveynlerin gençleriyle kullanmasını amaçlayan ChatGPT güvenlik araçlarını kullanıyor. Dünya çapında bu güncelleme, bir çocuk – bu durumda 13-18 yaşları arasındaki kullanıcılar – kendi kendine zarar veya intihar hakkındaki chatbot konuşmalarında yer alıyorsa, ebeveynlerin yanı sıra kolluk kuvvetlerinin de bildirim alma yeteneğini içerir.
Openai, ChatGPT’nin çocuklarının ölümünde rol oynadığını iddia eden ebeveynler tarafından dava edildiğinden bu değişiklikler geliyor. Chatbot’un intihar gencini, odalarında aile üyelerinden bir ilmik gizlemeye teşvik ettiği iddia ediliyor. New York Times’dan raporlama.
Bir bütün olarak, ChatGPT kullanan gençler için içerik deneyimi bu güncelleme ile değiştirilir. “Ebeveynler ve gençler hesaplarını birleştirdikten sonra, genç hesabı otomatik olarak ek içerik korumaları alacaktır.” “Deneyimlerinin yaşa uygun olmasına yardımcı olmak için azaltılmış grafik içeriği, viral zorluklar, cinsel, romantik veya şiddet içeren rol ve aşırı güzellik idealleri dahil.”
Yeni kısıtlamalar altında, bir chatgpt hesabı kullanan bir genç, kendine zarar veya intihar düşüncesi ile ilgili bir istem girerse, istem, potansiyel bir ebeveyn bildirimini tetikleyip tetiklemeyeceğine karar veren bir insan gözden geçiren ekibe gönderilir.
Openai’nin gençlik refahı başkanı Lauren Haber Jonas, “Sizinle elimizden gelen her şekilde bir ebeveyn olarak iletişime geçeceğiz,” diyor Openai’nin gençlik refahı başkanı Lauren Haber Jonas. Ebeveynler bu uyarıları metin, e -posta ve ChatGPT uygulamasından bir bildirim almayı tercih edebilirler.
Ebeveynlerin bu durumlarda alabileceği uyarılar, incelemenin incelemesi için saatler sonra gelmesi beklenir. Her dakikanın önemli olduğu anlarda, bu gecikme muhtemelen çocuklarının güvenliği hakkında daha fazla anlık uyarılar isteyen ebeveynler için sinir bozucu olacaktır. Openai, bildirimler için gecikme süresini azaltmak için çalışıyor.
Openai tarafından ebeveynlere potansiyel olarak gönderilebilecek uyarı, çocuğun intihar veya kendine zarar vermeyle ilgili bir bilgi istemi yazmış olabileceğini genel olarak belirtecektir. Ayrıca, ebeveynlerin çocuklarıyla konuşurken kullanmaları için akıl sağlığı uzmanlarından gelen konuşma stratejilerini de içerebilir.
Öncül bir demoda, örneğin e -postanın konuyu vurgulamaya gösterdiği konu satırı, güvenlik kaygılarını oluşturdu, ancak intihardan açıkça bahsetmedi. Ebeveyn bildirimlerinin de içermeyeceği şey, çocuğun konuşmasından doğrudan alıntıdır – ne istemler ne de çıktılar. Ebeveynler bildirimi takip edebilir ve konuşma süresi damgaları isteyebilir.
Jonas, “Ebeveynlere, bir miktar genç gizliliğini sürdürürken harekete geçmek ve gençleriyle sohbet etmek için yeterli bilgi vermek istiyoruz,” diyor Jonas, “çünkü içerik diğer hassas bilgileri de içerebilir.”
Hem ebeveynlerin hem de gençlerin hesaplarının etkinleştirilmesi için bu güvenlik özelliklerinin seçilmesi gerekir. Bu, ebeveynlerin gençlerine hesaplarının izlenmesi için bir davetiye göndermeleri gerekeceği ve gencin kabul etmesi gerektiği anlamına gelir. Hesap bağlantısı genç tarafından da başlatılabilir.
Openai, insan moderatörlerinin bir gencin tehlikede olabileceğini ve ebeveynlere bildirim yoluyla ulaşılamayacağını belirlediği durumlarda kolluk kuvvetleriyle iletişime geçebilir. Özellikle küresel ölçekte, kolluk kuvvetleri ile bu koordinasyonun nasıl görüneceği belli değil.
