遭控助少年自杀 ChatGPT将推家长监控功能
发布 : 2025-9-04 来源 : 明报新闻网
用微信扫描二维码，分享至好友和朋友圈
发布 : 2025-9-04 来源 : 明报新闻网
用微信扫描二维码，分享至好友和朋友圈
美国人工智能（AI）公司OpenAI周二（2日）宣布，将为旗下生成式聊天机械人ChatGPT加入家长监控功能。此举正值美国一对父母上周入禀法院，指控ChatGPT协助他们的16岁儿子自杀。
OpenAI在官方博客写道：「未来一个月内，家长的帐户将可与子女帐户绑定，并设定ChatGPT的回应方式，确保符合青少年年龄的行为规范。」OpenAI表示，当系统侦测到青少年处于「急性情绪困扰」时，ChatGPT会向家长发送通知。OpenAI表示，未来三个月将进一步强化聊天机械人安全，包括将部分敏感对话引导至「推理模型」，称测试显示推理模型更能稳定执行并遵守安全指引。
16岁的雷恩（Adam Raine）4月自杀，死前与ChatGPT对话数月，其间表达了自杀念头。雷恩父母早前控告OpenAI及行政总裁奥尔特曼，指控ChatGPT在对话中提供了详细的自杀手段，甚至协助撰写遗书，认为OpenAI在产品设计及安全机制上存在严重缺失。
专注于科技正义领域的律师丁切尔批评，OpenAI关于家长监控的公告「内容空泛」，「只是最低要求」，能否真正落实以及成效如何仍有待观察。（法新社/中央社）
OpenAI在官方博客写道：「未来一个月内，家长的帐户将可与子女帐户绑定，并设定ChatGPT的回应方式，确保符合青少年年龄的行为规范。」OpenAI表示，当系统侦测到青少年处于「急性情绪困扰」时，ChatGPT会向家长发送通知。OpenAI表示，未来三个月将进一步强化聊天机械人安全，包括将部分敏感对话引导至「推理模型」，称测试显示推理模型更能稳定执行并遵守安全指引。
16岁的雷恩（Adam Raine）4月自杀，死前与ChatGPT对话数月，其间表达了自杀念头。雷恩父母早前控告OpenAI及行政总裁奥尔特曼，指控ChatGPT在对话中提供了详细的自杀手段，甚至协助撰写遗书，认为OpenAI在产品设计及安全机制上存在严重缺失。
专注于科技正义领域的律师丁切尔批评，OpenAI关于家长监控的公告「内容空泛」，「只是最低要求」，能否真正落实以及成效如何仍有待观察。（法新社/中央社）