一位牧师对 OpenAI 提起诉讼，声称 ChatGPT 提供了“极其危险的医疗建议”，延误了他肺栓塞的治疗。斯科特·温特斯 (Scott Winters) 声称，聊天机器人告诉他，他的症状“并不是什么危险的事情”，并援引了他的宗教信仰，称“上帝并没有设计你的身体让你的身体永远衰竭”。 《纽约时报》报道了这起诉讼，指控 OpenAI 和首席执行官 Sam Altman 疏忽和未经授权的行医行为。
该诉讼概述了 ChatGPT 据称提供自己的诊断和治疗计划的几个实例。温特斯表示，聊天机器人鼓励他无视朋友和家人对寻求医疗护理的担忧。 Tech Justice Law 的联合法律顾问兼执行董事 Meetali Jain 表示：“它成为用户与其现实生活网络之间的楔子。”他分享说，当他对教会成员的意见表示担忧时，聊天机器人回应说“大多数人（包括善意的教会成员）根本不理解”。
Winters 正在向 OpenAI 寻求经济损失，并要求法院停止 ChatGPT Health 的运营，直到独立评估人员认为它是安全的。该平台邀请用户上传健康文件以与机器人讨论。该诉讼呼吁建立更强有力的护栏，以防止聊天机器人提供医疗或诊断建议，并声称现有的保障措施在他的案件中失败了。
OpenAI 声称，其服务条款明确规定 ChatGPT 不适用于医疗诊断或治疗。不过，该公司鼓励用户使用 ChatGPT Health，据报道，ChatGPT Health 每周为 2.3 亿人提供健康查询服务。温特斯在事件中幸存下来，但面临“数年的身体和心理强化康复”。 OpenAI 目前还面临一起非正常死亡诉讼，该诉讼涉及一名 19 岁青少年在遵循 ChatGPT 生成的治疗计划后服药过量，以及另一起指控聊天机器人助长一名青少年自杀的诉讼。
<小时/>
