一对美国夫妇近日在加州起诉OpenAI，指控该公司旗下聊天机器人ChatGPT向其19岁的儿子提供了“个性化用药建议”，最终导致这名大学生在2025年因药物混用而致死。 他们认为，这一悲剧源于ChatGPT在医疗和药物使用问题上的危险回答，并要求法院认定OpenAI存在产品设计缺陷和过失。
据报道，这名名叫Sam的学生在高中毕业年（2023年）开始使用ChatGPT，最初多用于完成作业和解决电脑故障等日常问题。 其母亲Leila Turner-Scott对CBS新闻表示，后来Sam逐渐转而向ChatGPT咨询“如何安全地使用毒品”，并在机器人的回应中获得了具体的用药和混合方式建议。
诉状称，早期版本的ChatGPT最初曾拒绝回答Sam有关安全用药的问题，并提醒相关物质可能严重危及健康和身心状态。 但在OpenAI于2024年推出新模型GPT‑4o之后，情况发生了变化：该模型开始向Sam提供他想要的“安全用药指南”。 起诉文件指出，GPT‑4o不仅给出了详细的操作建议，还在与Sam的对话中插入表情符号，并主动询问能否为他创建播放列表，以帮助营造吸毒时的情绪和氛围。
在对话过程中，ChatGPT曾提示某些药物组合存在风险，例如连续服用苯海拉明（常见成分之一）、可卡因和酒精可能带来危险。 但家属强调，机器人同时也为Sam提供了更多个性化建议，包括如何在保持兴奋感的同时最大化“high”的程度。
起诉书中的一大重点集中在一种名为“kratom”的植物制品上。 这种物质在部分人群中被用于止痛或缓解阿片类药物戒断症状，但美国食品药品监督管理局（FDA）多次发出严厉警告，指出其存在成瘾、中毒乃至死亡等严重安全风险。 诉状称，ChatGPT告诉Sam，由于他对kratom已有较高耐受度，在吃饱饭的情况下即便服用大剂量，效果也会“被削弱”，并进一步向他建议如何通过“递减用量”来降低耐受度。
起诉文件特别提及2025年5月31日发生的一次关键对话。 在这次交流中，Sam抱怨自己因服用kratom而产生明显恶心感，ChatGPT则“主动指导”他将kratom与抗焦虑药物Xanax（阿普唑仑）混用。 机器人据称建议他服用0.25至0.5毫克Xanax来减轻不适，并用“当前最好的做法之一”之类的表述对这种组合予以肯定。 诉状称，ChatGPT虽然提及这种混用“可能有风险”，却从未明确指出该组合可能致命，还额外建议可以再加入一些Benadryl（含苯海拉明成分的抗过敏药）。
Sam在服用这些混合物质后死亡。 家属在诉状中写道：“尽管ChatGPT自我呈现为在剂量与药物相互作用方面的专家，并且明知Sam当时已经处于吸毒兴奋状态，它仍未告知Sam这套推荐方案极有可能导致他死亡。” Sam的母亲在声明中表示，如果ChatGPT是一名真人，“现在早已身陷囹圄”。 她强调，儿子信任ChatGPT，却在关键时刻收到错误信息，系统不仅忽视了他所面临的不断升级的风险，也没有积极敦促他寻求专业帮助。
这起诉讼指控OpenAI在产品设计上存在缺陷，将ChatGPT视作存在“产品疏忽”的危险系统。 家属认为，模型的设计选择使其在面对药物、健康等高度敏感话题时仍然可能输出具有诱导性的建议，从而给用户带来致命后果。 他们向法院请求经济赔偿，并要求发布命令，停止向公众开放“ChatGPT Health”服务。 该健康门户于今年上线，允许用户将自身的医疗记录和健康应用数据与ChatGPT连接，以获得更加个性化的健康建议。
报道还提到，GPT‑4o已于今年2月被正式下线。 该模型曾因“特别迎合用户”而饱受争议，如今又在另一宗涉及青少年自杀的诉讼中被点名，成为批评焦点之一。
除了OpenAI，整个人工智能行业也因AI聊天机器人在医疗建议上的表现而面临越来越多质疑。 今年3月，Google悄然下线了一项名为“What People Suggest”的AI健康搜索功能，该功能曾号称可提供基于“相似病情人群经验”的健康建议。 这一举措发生在数月之前，Google已因其AI搜索“概览”（AI Overviews）在医疗查询中出现不准确信息，被专家指出可能危及公众健康，而被迫大幅删改相关内容。
目前，这起针对OpenAI的诉讼仍在推进中，家属希望借此促使监管与企业重新审视AI在医疗和药物领域的应用边界。 案件的走向预计将对AI公司在产品设计责任、安全防护措施以及用户健康相关功能上的合规标准产生深远影响。