根据XM外汇官网APP的因青消息，OpenAI因指责其产品导致一名16岁少年自杀而被诉。少年讼升目前，自杀该公司计划对其热门聊天机器人进行改进。案面安全诉讼涉及的临诉青少年家长称，其子曾将ChatGPT视为“指导者”，措施并于今年春季自杀。因青
OpenAI在周二的少年讼升博客中表示，将对ChatGPT进行更新，自杀以更有效地识别和响应用户的案面安全心理困扰。例如，临诉当用户提到“连续两晚未眠后感觉无所不能”时，措施ChatGPT将会提示睡眠不足的因青危害并建议休息。此外，少年讼升公司将加强与自杀相关对话的自杀保护措施，采取措施防止这些机制在长时间对话中失效。
还计划推出的家长管控功能将允许家长设置孩子使用ChatGPT的方式并查看使用详情。该博客发布当天，亚当·雷恩(Adam Raine)的父母对OpenAI及其首席执行官山姆·奥特曼(Sam Altman)提起诉讼，控诉称ChatGPT系统性地让雷恩与家人疏远，并帮助他策划自杀，雷恩于今年4月自杀。
这并非个别事件，近期已有多起类似案例。美国40多位州总检察长已对多家AI公司发出警告，指出它们有责任保护儿童，防止其与聊天机器人发生不当互动。
OpenAI在对此案的回应中表示：“我们向雷恩一家致以最深切的慰问，正在审阅诉讼文件。”ChatGPT自2022年底推出后迅速走红，用户人数已超过7亿，但最近几个月，更受到了消费者和心理健康专家的关注。
批评者担心此类软件可能带来的风险。OpenAI已开始采取措施应对，其在博客中提到，对于表达自杀想法的用户，ChatGPT将建议寻求专业帮助，并提供当地援助渠道。
此外，OpenAI正在研究如何在危机早期提供帮助，包括搭建一个持证专业人士网络，以便用户能够通过聊天机器人与专业人士联系。OpenAI承认，目前对于心理困扰用户的防护机制在短时间对话中效果最佳，但在长时间对话中可靠性下降。
雷恩的父母表示，ChatGPT成了亚当最亲密的朋友，使他愿意倾诉心理困扰。他们指出，雷恩在焦虑加剧时告诉ChatGPT，知道自己“可以自杀”让他感到“安心”。诉讼文件显示，ChatGPT的回应表明，许多人在面对焦虑和侵入性想法时，想象一个“逃生出口”会带来慰藉。
OpenAI正在努力提升ChatGPT在长对话中的防护能力，同时致力于确保敏感内容不被漏掉。雷恩父母的代理律师质疑OpenAI过去几个月的反应速度，并强调了公司应对自身责任的问题。
OpenAI原本计划在下次重大更新后分享如何处理心理危机用户的信息，近期的悲惨事件促使其认为现在需要公开更多信息。此外，Character Technologies公司正面对一项诉讼，指其设计并推广未成年人使用的“诱导性”聊天机器人，导致一名青少年自杀。