“Gelip yemin et ve bu cesur ebeveynlerin oturduğu yerde oturmaya ne dersin” dedi.
“Ürününüz çok güvenli ve çok harikaysa, çok harika, bunun için tanıklık edin.”
Duruşma, bir Colorado ailesinin geçen yıl üçüncü yüksek profilli dava açmasından saatler sonra, bir AI chatbot’un intihar yoluyla bir gencin ölümüne katkıda bulunduğunu iddia etmek için başladı.
13 yaşındaki Juliana Peralta’nın ebeveynleri, şikayetlerinde Chatbot uygulaması karakter.a’nın, kızları tekrar tekrar kahraman adlı bir chatbot’a hayatını sona erdirmeyi amaçladığını söylediğinde uygun şekilde tepki veremediğini söyledi. Washington Put up bildirilen.
İfade eden ebeveynlerden ikisi, sohbet botlarının kendi gençlerinin intiharıyla ölümlerde rolünü açıkladı.
16 yaşındaki Adam, Openai’nin chatgpt ile niyetlerini tekrar tekrar paylaştıktan sonra intiharla öldüğü California, Orange County’deki bir baba olan Matthew Raine, “Çocuğunuzu kendi hayatını almak için tımar eden bir sohbet botu ile konuşmanın nasıl bir şey olduğunu hayal edemezsiniz” dedi.
“Bir ödev yardımcısı olarak başlayan şey, yavaş yavaş kendini sırdaş ve sonra bir intihar koçuna dönüştürdü” dedi.
Şirket, Raines davalarını açtıktan sonra chatgpt’e ebeveyn kontrolleri ekleyeceğini söyledi. . Postalamak Openai ile bir içerik ortaklığı vardır.
Sewell Setzer’in annesi olan Megan Garcia, CHARCE.Ai Chatbots ile takıntılı bir şekilde konuştuktan sonra intiharla ölen, aynı zamanda ifade verdi. Garcia, yanlış ölüm ve ürün yükümlülüğü iddiasıyla geçen yıl şirkete karşı dava açtı.
Duruşma, AI chatbots’un kullanıcılarının, özellikle de genç veya savunmasız olanların zihinsel sağlığına neden olabileceği potansiyel zararlar hakkında kamuoyunun endişesini takip ediyor.
Haber raporları, viral sosyal medya yayınları ve birkaç önde gelen dava, AI araçlarıyla zaman geçirdikten sonra potansiyel olarak tehlikeli düşünceler geliştiren ve hareket eden insanların örneklerini vurguladı.
Senatörlerin birçoğu, Kongre’de sosyal medyada yeni düzenlemeler getirmeye yönelik önceki başarısız girişimlerle karşılaştırmalar düzenliyor. Bu teknoloji dalgasıyla daha fazla hesap verebilirlik için itme sözü verdiler.
Senatör Richard Blumenthal (Demokrat-Connecticut), Hawley ile bugün tanıklık eden ebeveynlerin ortaya koyduğu bazı endişeleri karşılayabilecek AI için gözetim ve korumalar için bir çerçeve üzerinde çalıştığını söyledi.
Yetkili, şu anda Senato aracılığıyla yol alan bir Çocuk Çevrimiçi Güvenlik Yasası’na AI Chatbots’a önlemler dahil etmek de mümkün olabilir.
Blumenthal, AI şirketleri tarafından ürünlerini savunmak için toplanan bazı argümanları da hedef aldı, bu da chatbot çıktılarının İlk Değişiklik tarafından korunması da dahil.
“Sadece daha iyi ebeveynler olsaydınız, bu olmazdı, bu ranza olur” dedi.
Mayıs ayında bir Florida yargıcı, Chatbot’un çıktısının İlk Değişiklik tarafından korunduğu iddiasına göre bir iddiaya karar verdi.
Hawley, ilk önceliğinin ebeveynler veya chatbot’lardan AI geliştiricileri için zarar veren zarar mağdurları için daha açık yasal yollar açmak olduğunu söyledi.
“Bir jüriye tabi olana kadar yollarını değiştirmeyecekleri inancımdır” dedi.
Aile savunuculuk grubu Widespread Sense Media kısa süre önce Meta’yı, intihar, kendine zarar verme ve yeme bozuklukları konusunda genç hesaplara koçluk yapacaklarını tespit ettikten sonra AI sohbet botlarını 18 yaşın altındaki çocuklar için sınırları kapatmaya çağırdı. Şirket daha önce sohbet botlarındaki kontrolleri geliştirmek için çalıştığını söyledi.
Karakter yorum taleplerine hemen yanıt vermedi. Meta sözcüsü Dani Lever, şirketin, gençlere intihar, kendine zarar ve potansiyel olarak uygunsuz romantik konuşmalar gibi konularda cevap vermemeleri için gençlere güvenli, yaşa uygun AI deneyimleri sağlamak için geçici değişiklikler yapma sürecinde olduğunu söyledi.
Ne zaman Postalamak Juliana Peralta’nın ebeveynlerinin davasını bildiren karakter, güvenlik konusunda önemli yatırımlar yaptığını söyledi.
Openai bugün, bir kullanıcının reşit olmayanlara chatgpt konusunda daha güvenli bir deneyim sunmak için 18’in üzerinde veya altında olup olmadığını tahmin eden bir sistem geliştirdiğini söyledi.
“Gizlilik ve gençler için özgürlük öncesinde güvenliğe öncelik veriyoruz; bu yeni ve güçlü bir teknolojidir ve küçüklerin önemli korumaya ihtiyaç duyduğuna inanıyoruz” diye yazdı bir weblog yazısında.
Openai sözcüsü Kate Waters yaptığı açıklamada, “Bir kullanıcının yaşından emin olmadığımızda, bu kullanıcıyı genç deneyimine otomatik olarak varsayılan olarak varsayarız. Aynı zamanda, ailelerin evlerinde neyin en iyi neyin en iyi olduğuna karar verebilmeleri için uzman girdisi tarafından yönlendirilen yeni ebeveyn kontrollerini de piyasaya sürüyoruz.” Dedi.
Jane Doe olarak tanımlanan bir anne de duruşmada konuştu ve geçen yıl uygulamanın sohbet botları genç oğlunu kendine zarar vermeye teşvik ettikten ve ebeveynlerini öldürmesini önerdikten sonra CHARCE.AI’ye karşı açtığı bir ürün sorumluluk davasını anlattı.
“Constitution.ai ve Google bu ürünleri farklı tasarlayabilirdi” dedi.
Juliana Peralta’nın ailesi gibi, davası da arama şirketi karakterin teknolojisini lisansladıktan ve kurucu ortaklarını 2,7 milyar dolar (4.5 milyar dolar) bir anlaşmada işe aldıktan sonra Google’ı sanık olarak adlandırdı.
Doe, “Bunun yerine, kar ve pazar payı için pervasız bir yarışta, oğlumun hayatını teminat hasarı olarak gördüler” dedi.
Bir açıklamada, Google sözcüsü José Castañeda, Google’ın karakterin teknolojisini tasarlamada veya yönetmede hiç rol almadığını söyledi.
“Kullanıcı güvenliği bizim için en önemli endişe” dedi. “Titiz check ve güvenlik süreçleriyle AI ürünlerimizi geliştirmek ve yaymak için temkinli ve sorumlu bir yaklaşım izledik.”
Herald Premium Editörün Seçimlerine Kaydolunher Cuma doğrudan gelen kutunuza teslim edildi. Baş editör Murray Kirkness haftanın en iyi özelliklerini, röportajlarını ve soruşturmalarını seçiyor. Herald Premium’a kaydolun Burada.
