Openai Güvenlik Yönlendirme Sistemi, CHATGPT’de Ebeveyn Kontrolleri

Openai, hafta sonu ChatGPT’de yeni bir güvenlik yönlendirme sistemini take a look at etmeye başladı ve Pazartesi günü, chatbot’a ebeveyn kontrolleri tanıttı – kullanıcılardan karışık tepkiler çizdi.

Güvenlik özellikleri, zararlı konuşmaları yeniden yönlendirmek yerine kullanıcıların sanrılı düşüncelerini doğrulayan belirli ChatGPT modellerinin sayısız olayına yanıt olarak gelir. Openai, bir genç çocuk Chatgpt ile aylarca etkileşimlerden sonra intihardan öldükten sonra, böyle bir olaya bağlı yanlış bir ölüm davası ile karşı karşıya.

Yönlendirme sistemi, duygusal olarak hassas görüşmeleri tespit etmek ve orta chat’i otomatik olarak, şirketin yüksek bahisli güvenlik çalışmaları için en iyi donanımlı mannequin olarak gördüğü GPT-5-Düşünme olarak değiştirmek için tasarlanmıştır. Özellikle, GPT-5 modelleri Openai’nin “Güvenli Tamamlama” dediği yeni bir güvenlik özelliği bu da sadece etkileşime girmeyi reddetmek yerine hassas soruları güvenli bir şekilde cevaplamalarına izin verir.

Hızlı bir şekilde cevap verecek ve soruları hızlı bir şekilde cevaplamak için tasarlanmış şirketin önceki sohbet modellerinden bir kontrast. GPT-4O, hem AI ile indüklenen sanrıların olaylarını körükleyen hem de sadık kullanıcıların büyük bir tabanını çizen aşırı sykophantic, hoş doğası nedeniyle özel bir inceleme altında kalmıştır. Openai, Ağustos ayında GPT-5’i varsayılan olarak piyasaya sürdüğünde, birçok kullanıcı geri itti ve GPT-4O’ya erişim istedi.

Birçok uzman ve kullanıcı güvenlik özelliklerini memnuniyetle karşılarken, diğerleri aşırı temkinli bir uygulama olarak gördüklerini eleştirdi, bazı kullanıcılar Openai’yi çocuk gibi yetişkinlere hizmetin kalitesini bozacak şekilde tedavi etmekle suçladı. Openai, doğru yapmanın zaman alacağını ve 120 günlük bir yineleme ve iyileştirme dönemi verdiğini ileri sürdü.

Başkan Yardımcısı ve ChatGPT uygulamasının başkanı Nick Turley, yönlendiricinin açıklamalarla uygulanması nedeniyle bazı “4o yanıtlara güçlü tepkiler” i kabul etti.

“Yönlendirme hareket başına bazda gerçekleşir; varsayılan modelden geçiş geçici olarak gerçekleşir,” Turley X’de yayınlandı. “ChatGPT dimension sorulduğunda hangi modelin aktif olduğunu söyleyecektir. Bu, korumaları güçlendirmek ve daha geniş bir sunumdan önce gerçek dünya kullanımından öğrenmek için daha geniş bir çabanın bir parçasıdır.”

CHATGPT’de ebeveyn kontrollerinin uygulanması alındı Benzer seviyelerde övgü ve küçümsemebazıları ebeveynlere çocuklarının AI kullanımında sekmeleri tutmanın bir yolunu vermesiyle, bazıları ise Openai’ye çocuk gibi davranan kapıyı açmasından korkuyor.

Kontroller, ebeveynlerin sessiz saatler ayarlayarak, ses modunu ve hafızayı kapatarak, görüntü üretimini kaldırarak ve mannequin eğitimini seçerek gençlik deneyimlerini özelleştirmelerine izin verir. Genç hesaplar ayrıca, azaltılmış grafik içeriği ve aşırı güzellik idealleri gibi ek içerik korumaları ve bir gencin kendine zarar verebileceğine dair potansiyel işaretleri tanıyan bir algılama sistemi de alacaktır.

“Sistemlerimiz potansiyel zararı tespit ediyorsa, özel eğitimli insanlardan oluşan küçük bir ekip durumu gözden geçiriyor” blog. “Akut sıkıntı belirtileri varsa, seçmedikleri sürece ebeveynlere e -posta, kısa mesaj ve push uyarısı ile telefonla iletişime geçeceğiz.”

Openai, sistemin mükemmel olmayacağını ve gerçek bir tehlike olmadığında bazen alarm verebileceğini kabul etti, “ama bir ebeveyni harekete geçirmenin ve uyarmanın daha iyi olduğunu düşünüyoruz, böylece sessiz kalmaktan ziyade adım atabilirler.” AI firması, yaşam için yakın bir tehdit tespit ederse ve bir ebeveyne ulaşamazsa, kolluk kuvvetlerine veya acil servislere ulaşmanın yolları üzerinde de çalıştığını söyledi.