Openai有 宣布 它正在为Chatgpt实施一系列新的心理健康护栏，并发布新的开放模型以及预期 GPT-5 在接下来的几周内进行更新。
新的护栏旨在改变聊天机器人在敏感主题上与用户互动的方式。 Chatgpt将不再为高风险个人问题（例如关系建议）提供直接答案。取而代之的是，它将通过提出问题来帮助用户自己思考问题来采用更便利的角色。此外，该系统将监视用户参与的持续时间，并促使个人在延长的连续会议期间休息。
Openai还正在开发Chatgpt检测精神或情感困扰迹象的能力。当检测到此类标志时，聊天机器人将指导用户朝着基于证据的资源供支持。这些功能的实施遵循了多次报告，该报告表明，与AI聊天机器人进行了广泛的互动后，经历了负面心理健康结果的个人。
根据Openai的说法，这些新的护栏是与来自30多个国家（包括精神病学专家和儿科专家）的90多名医生合作开发的。这项工作有助于为复杂的对话创建自定义评估方法。该公司还与研究人员合作，微调其算法以检测有关用户行为的算法，并建立了一个精神健康，青年发展和人类计算机交互专家的咨询小组，以进一步提高安全性。
