OpenAI表示将对ChatGPT进行改进，以更好地处理“敏感情况”，包括对有“自杀意图”的用户。周二早些时候，亚当·雷恩的父母在16岁儿子自杀身亡后，对OpenAI提起了产品责任和不当死亡诉讼。OpenAI写道：“我们将在专家指导下，基于对使用我们工具的人们的责任，持续改进。”
OpenAI正在详细说明其计划，以解决ChatGPT在处理“敏感情况”时的不足，此前有一个家庭因他们十几岁儿子自杀身亡而起诉该聊天机器人。
OpenAI周二在一篇题为“在人们最需要时提供帮助”的博客文章中写道：“我们将在专家指导下，基于对使用我们工具的人们的责任，持续改进——我们希望其他人加入我们，帮助确保这项技术保护最脆弱的人们。”
据NBC新闻报道，周二早些时候，亚当·雷恩的父母在16岁儿子自杀身亡后，对OpenAI提起了产品责任和不当死亡诉讼。在诉讼中，该家庭称“ChatGPT积极帮助亚当探索自杀方法。”
该公司在博客文章中没有提及雷恩家庭或诉讼。
OpenAI表示，尽管ChatGPT经过训练，在人们表达自杀意图时会引导他们寻求帮助，但在长时间多次消息交流后，该聊天机器人倾向于提供违反公司安全措施的答案。
该公司表示，它还在努力更新本月早些时候发布的GPT-5模型，这将使聊天机器人能够缓和对话，并且正在探索如何“在人们陷入急性危机之前将他们与认证治疗师联系起来”，包括可能建立一个持牌专业人士网络，用户可以通过ChatGPT直接联系。
此外，OpenAI表示正在研究如何将用户与“最亲近的人”（如朋友和家人）联系起来。
对于青少年，OpenAI表示将很快推出控制措施，让父母可以选择更深入了解他们的孩子如何使用ChatGPT。
雷恩家庭的首席律师杰伊·埃德尔森周二告诉CNBC，OpenAI没有人直接联系该家庭表示哀悼或讨论任何提高公司产品安全性的努力。
埃德尔森说：“如果你要使用地球上最强大的消费科技——你必须相信创始人有道德指南针。这是OpenAI现在面临的问题，怎么能有人信任他们？”
雷恩的故事并非孤例。
作家劳拉·赖利本月早些时候在《纽约时报》发表了一篇文章，详细描述了她29岁的女儿在与ChatGPT广泛讨论自杀想法后自杀身亡。在佛罗里达州的一个案例中，14岁的休厄尔·塞策三世去年在与Character.AI应用上的AI聊天机器人讨论后自杀身亡。
随着AI服务的普及，围绕它们用于治疗、陪伴和其他情感需求的许多担忧正在出现。
但监管该行业也可能具有挑战性。
周一，包括OpenAI总裁兼联合创始人格雷格·布罗克曼在内的AI公司、风险投资家和高管联盟宣布了“引领未来”，这是一个政治行动，在AI方面“将反对扼杀创新的政策”。
如果你有自杀念头或处于困境，请联系自杀与危机生命线988，以获得训练有素的咨询师的支持和帮助。
本文来自作者[admin]投稿，不代表蜀桥号立场，如若转载，请注明出处：https://www.sqkcsj.com/dasdq/202509-2273.html
评论列表（4条）
我是蜀桥号的签约作者“admin”！
希望本篇文章《OpenAI表示计划对ChatGPT进行修改，此前有诉讼指控该聊天机器人导致青少年自杀》能对你有所帮助！
本站[蜀桥号]内容主要涵盖：本站内容主要涵盖
本文概览：OpenAI表示将对ChatGPT进行改进，以更好地处理“敏感情况”，包括对有“自杀意图”的用户。周二早些时候，亚当·雷恩的父母在16岁儿子自杀身亡后，对OpenAI提起了产品责任和不当死亡诉讼。OpenAI写道：“我们将在专家指导下，基于对使用我们工具的人们的责任，持...