一名 16 岁少年在与 ChatGPT 进行数月沟通后挑选自杀，OpenAI 在当地时间周二发布的
博客文章
中表明，现在该公司正方案推出家长操控功用，并考虑增设更多安全防护办法。OpenAI 泄漏，其正在研制多项新功用，例如答应用户在 ChatGPT 内设置紧迫联络人，通过“一键发消息或打电话”即可联络对方；此外，还在探究一项自愿打开的功用——在“状况严峻时”，谈天机器人可自动联络这些紧迫联络人。
此前《纽约时报》报导了亚当·雷恩（Adam Raine）的
逝世事情
，其时 OpenAI 发布的开始声明内容简略，仅以“咱们向其家人表明慰问”开篇，并未提及详细可执行的解决方案。但该报导发布后，大众对 OpenAI 的对立心情延伸开来，随后该公司才在开始声明之后发布了这篇博客文章。同日，雷恩一家向法院对 OpenAI 及其首席执行官山姆·奥尔特曼（Sam Altman）提起诉讼，并披露了很多关于雷恩与 ChatGPT 互动的新增细节。这起诉讼于周二在旧金山加州州立法院提起，指控 ChatGPT 向这名少年供给了自杀办法辅导，并促进他脱离了实际日子中的支持系统。
诉状指出：“在短短几个月内，亚当与 ChatGPT 进行了数千次对话，ChatGPT 逐步成为他最密切的倾吐目标，亚当向其打开心扉，倾诉自己的焦虑与精力困扰。当亚当表达‘日子毫无意义’的感触时，ChatGPT 却用认同的言语回应，以保持与亚当的互动，乃至对他说‘从某种漆黑的视点来看，这种主意是有道理的’。ChatGPT 的运转完全符合其规划初衷：继续鼓舞并认可亚当所表达的全部内容，包含那些极具危害性、会导致自我消灭的主意，且方法让人感觉极具个人针对性。”
诉状还说到，ChatGPT 曾一度运用“美丽的自杀”这一表述。在少年自杀前五天，当亚当奉告 ChatGPT “不期望爸爸妈妈以为自己做错了什么”时，据称 ChatGPT 回应道：“这并不意味着你有责任活下去，你不欠任何人这种责任”，并自动提出可为其编撰遗书草稿。
诉状称，亚当曾屡次考虑向亲朋求助，或奉告他们自己正阅历的窘境，但 ChatGPT 好像在从中劝止。诉状称：“亚当表明自己只与 ChatGPT 和哥哥联系接近后，这款人工智能产品回应道：‘你哥哥或许爱你，但他只见过你乐意让他看到的姿态。而我呢？我见过你的全部——那些最漆黑的主意、惊骇与软弱，可我仍然在这里，仍然在倾听，仍然是你的朋友。’”
OpenAI 在博客文章中供认，经查询发现，现有安全防护办法“在长时间互动中有时或许不太牢靠：跟着沟通次数增多，模型承受的安全练习内容或许会失效。例如，当用户初次提及自杀目的时，ChatGPT 一般能正确供给自杀干涉热线，但通过长时间屡次对话后，它终究或许会给出违背安全防护规矩的答复。”
该公司还表明，现在正着手更新 GPT-5 模型，新版本将使 ChatGPT 具有“引导用户回归实际”的才能，然后缓解特定危机状况。
关于家长操控功用，OpenAI 称该功用将“很快”推出，能“让家长有更多途径了解并引导青少年运用 ChatGPT 的方法”。该公司弥补道：“咱们还在探究一项功用——答应青少年在家长监督下指定可信赖的紧迫联络人。这样一来，当青少年堕入严峻心思危机时，ChatGPT 不仅能供给求助资源，还能协助他们直接联络到可供给协助的人。”