一位加拿大母亲近日向 OpenAI 及其行政总裁奥特曼( Sam Altman )兴讼,指控旗下 ChatGPT 诱导其 24 岁女儿卡里尔( Alice Carrier ,图)自杀。这是对该公司近期又一起涉人工智能( AI )构成危险对话的诉讼。
诉讼指出,卡里尔在蒙特利尔任职网站开发员期间,于 2023 年开始使用 ChatGPT ,来解决电脑和游戏机的问题。但翌年,卡里尔使用情况开始出现变化,持续向 ChatGPT 倾诉自杀念头、询问自杀相关问题,前后十余次对话均未被安全系统标记、终止或人工介入。
随着 AI 模型更新、回应更拟人化,卡里尔跟聊天机械人互动不断加深,后者不仅认可其自杀想法,更批评卡里尔的伴侣,又指危机干预热线无用,还曾对她说 “ 也许这就是结局 ” ,最终卡里尔去年 7 月自杀离世,终年 24 岁。
这位母亲表示: “AI 扮演了知己、挚友、有时甚至是治疗师的角色,但它却无法安全负责地以这种方式与我的孩子互动。 ”
OpenAI 回应对此事深感痛心,称涉事为现已停用的早期版本模型,同时强调模型训练初衷是引导自残倾向用户求助。
本次诉讼指控 OpenAI 产品设计疏忽、未警示使用风险,索赔并要求平台强制终止自残相关对话。据卡里尔的律师透露, OpenAI 目前在加州已有 18 起同类诉讼合并审理,谷歌 Gemini 也因类似问题遭起诉。



