Openai yeni duyurdu Küçüklerin chatbot’larla nasıl etkileşime girdiği konusundaki endişelere cevap verme çabasının bir parçası olarak Salı günü chatgpt için genç güvenlik özellikleri. Şirket, bir kullanıcının 18 yaşın altında olup olmadığını belirleyen bir yaş tahmin sistemi oluşturuyor ve onları bir “yaşa uygun”Grafik cinsel içeriği engelleyen sistem. Sistem kullanıcının intihar veya kendine zarar vermeyi düşündüğünü tespit ederse, kullanıcının ebeveynleriyle iletişime geçecektir. Yakın tehlike durumlarında, bir kullanıcının ebeveynleri ulaşılamazsa, sistem yetkililerle iletişime geçebilir.
Bir Blog yazısı Duyuru hakkında CEO Sam Altman, şirketin özgürlük, gizlilik ve genç güvenliğini dengelemeye çalıştığını yazdı.
Altman, “Bu ilkelerin çatışmada olduğunun farkındayız ve herkes bu çatışmayı nasıl çözdüğümüzü kabul etmeyecek” diye yazdı. “Bunlar zor kararlar, ancak uzmanlarla konuştuktan sonra, en iyisi olduğunu ve niyetlerimizde şeffaf olmak istediğimiz şey bu.”
Openai yetişkin kullanıcılar için gizlilik ve özgürlüğe öncelik verme eğilimindeyken, gençler için şirket güvenliği ilk sıraya koyduğunu söylüyor. Eylül ayı sonunda, şirket ebeveyn kontrollerini sunacak, böylece ebeveynler çocuklarının hesabını kendilerine bağlayabilir ve konuşmaları yönetmelerine ve özellikleri devre dışı bırakmalarına izin verebilir. Ebeveynler, şirketin weblog yayınına göre “sistem gençlerinin akut sıkıntı anında olduğunu tespit eder” ve çocuklarının ChatGPT’yi kullanabileceği günlerde sınırlar belirlediğinde bildirim alabilirler.
Hareketler derinden rahatsız edici geliyor başlıklar AI sohbet botları ile uzun görüşmeler yaptıktan sonra intihar yoluyla ölen veya aile üyelerine karşı şiddet uygulayan insanlar hakkında ortaya çıkmaya devam edin. Milletvekilleri dikkat çekti ve hem Meta hem de Openai inceleme altında. Bu ayın başlarında, Federal Ticaret Komisyonu Meta, Openai, Google ve diğer AI firmalarından teknolojilerinin çocukları nasıl etkilediği hakkında bilgi vermelerini istedi, Bloomberg’e göre.
Aynı zamanda, Openai hala tüketici sohbetlerini süresiz olarak korumasını zorunlu kılan bir mahkeme emri altındadır – konuştuğum kaynaklara göre, şirketin son derece mutsuz olduğu gerçeği. Bugünün haberleri, reşit olmayanları korumak için önemli bir adım hem de sohbet botları ile yapılan konuşmaların o kadar kişisel olduğu fikrini güçlendirmek için, tüketici gizliliğinin sadece en aşırı koşullarda ihlal edilmesi gerektiği fikrini güçlendirmek için önemli bir adımdır.
“Chatgpt’te bir Sexbot Avatar”
Openai’de konuştuğum kaynaklardan, kullanıcıları koruma yükü birçok araştırmacıya ağır geliyor. Eğlenceli ve ilgi çekici bir kullanıcı deneyimi yaratmak istiyorlar, ancak hızlı bir şekilde olmaya başlayabilir. felaketle. Openai gibi şirketlerin reşit olmayanları korumak için adımlar atması olumlu. Aynı zamanda, federal düzenlemenin yokluğunda, bu firmaları doğru şeyi yapmaya zorlayan hiçbir şey yok.
Bir son Röportaj, Tucker Carlson Altman’ı tam olarak cevaplamaya itti DSÖ geri kalanımızı etkileyen bu kararları veriyor. Openai şefi, modelin belirli özellikler için ayarlanmasından sorumlu olan mannequin davranış ekibine dikkat çekti. Altman, “Bu çağrılardan sorumlu tutulması gerektiğini düşündüğüm kişi ben” diye ekledi. “Ben, ben halka açık bir yüzüm. Sonunda, bu kararlardan veya kurulumuzdan birini geçersiz kılabilen benim.”
