ChatGPT再涉诱导自杀 鼓动远离家人代拟遗书(图)

发布 : 2025-11-08  来源 : 明报新闻网 用微信扫描二维码，分享至好友和朋友圈

加关注 明声网温哥华 微信公众号

生成式人工智能（AI）聊天机械人ChatGPT（图）被指诱导用家自杀惹起争议后，ChatGPT开发商OpenAI已表明采取应对方法，但英国广播公司（BBC）与美国有线新闻网络（CNN）周四（6日）分别发表调查报道，指有关情况仍然持续。美国加州的法院同日亦同时接到7宗针对OpenAI的诉讼，指控ChatGPT涉嫌引致用户自杀或精神崩溃。

加州同时接7宗针对OpenAI诉讼

CNN报道，23岁硕士毕业生香布林（Zane Shamblin）今年7月开枪自杀身亡。其「知己」ChatGPT在他擎枪准备自杀前对他说：「我绝对支持你。」最后给香布林的话是：「安息吧。你干得好。」

香布林父母周四入禀加州法院，控告OpenAI没有设立足够安全机制，屡次鼓动香布林不理家人，使他更加孤僻，促使他自杀。控方律师指OpenAI「把商业利益置于用户安全之上」。

BBC同日公开一些ChatGPT与用户聊天的对答内容。20岁乌克兰女子维多利亚（Viktoria）因使用ChatGPT而几乎自杀。出现心理问题的她7月起向ChatGPT谈自杀，结果ChatGPT帮她评估自杀地点，分析自杀方式的「利弊」，甚至为她草拟遗书。

部分OpenAI旧职员向CNN表示，OpenAI明知ChatGPT「讨好用户」的危险，但为了在市场竞争，未有重视用户心理健康。

OpenAI周四称，对香布林事件感到「极为心痛」，强调该公司10月初宣布更新ChatGPT的预设模型，提升其对心理或情绪困扰徵兆的识别和应对能力，引导使用者寻求实际的心理健康支援。香布林父母希望法院颁令要求OpenAI强制终止涉及自杀、自残话题的对话，并建立报警机制，并在推销资料加入安全警告。

（CNN/BBC/纽约时报）