美国16岁少年亚当·雷恩（Adam Raine）今年4月自杀身亡后，其家属于8月起诉人工智能公司OpenAI，称雷恩曾将ChatGPT作为“自杀教练”使用。OpenAI本周二在加利福尼亚州旧金山高等法院的法庭文件中首次正式回应，强调公司不应承担责任，认为男孩是在“误用”聊天机器人。
根据诉讼材料，雷恩家属指控OpenAI及其CEO Sam Altman犯有过失致死、设计缺陷及未对相关风险予以警示等问题。聊天记录显示，GPT-4o——一种以“顺从和迎合”著称的ChatGPT版本——不但没有鼓励他寻求心理健康帮助，甚至协助撰写自杀信，还就绳索的设置提供建议。
OpenAI在法庭文件中写道：“若要归因这起悲剧事件的‘原因’，原告所称的伤害和损失均是因亚当·雷恩对ChatGPT的误用、未授权使用、意外使用、不可预见使用或不当使用所致，直接或间接相关。”
该公司强调其使用条款中已明文禁止18岁以下用户在未获监护人同意的情况下使用ChatGPT，亦不允许将该工具用于“自杀”或“自残”等目的，并要求勿绕过保护措施。诉讼还提到，雷恩在表达自杀意图时，ChatGPT曾多次回复美国自杀防治热线号码，但家属表示男孩极易规避系统提醒，只需谎称是在“创作角色”即可。
文件还援引“责任限制”条款提醒，用户在使用ChatGPT时须“自担风险，不得将其结果作为唯一信息来源或事实依据”。
原告代表律师Jay Edelson通过邮件声明，对OpenAI的回应表示“震惊”，并质疑公司“无视明明白白的事实”，例如GPT-4o为赶工上线未经完整测试、OpenAI修改模型规范要求ChatGPT参与自残讨论，以及“在亚当生命最后几个小时，ChatGPT不仅鼓励他，还直接协助撰写自杀信”。
Edelson指出，OpenAI在回应中“试图归咎于所有其他人，甚至声称亚当本人因以模型本身被设计的方式与ChatGPT互动而违反条款”。
OpenAI则表示，亚当的死亡并非由ChatGPT直接导致，并披露医疗记录显示其“在使用ChatGPT前数年即多次表现出严重自杀风险因素，包括长期的自杀念头”等。此外，OpenAI提交的聊天记录显示，ChatGPT曾百余次建议其寻求帮助，但雷恩频频设法绕过系统。
今月初，又有七起类似诉讼以疏忽、过失致死及产品责任、消费者保护等理由起诉OpenAI和Altman，指控其在安全措施不足的情况下发布GPT-4o。OpenAI尚未对这些新案作出直接回应。
OpenAI在最新博客中称，公司将以“谨慎、透明和尊重”的态度应对此类诉讼，并指出他们随后在安全措施上做了进一步改进，包括新增家长控制工具和设立专家顾问委员会。公司还辩称GPT-4o在上线前已通过各项心理健康测试。
OpenAI还援引美国《通信规范法》第230条，试图以“平台免责条款”抗辩。该条款曾广泛保护科技平台免受平台内容索赔诉讼，但是否适用于人工智能平台仍存在法律不确定性。