WSJ：ChatGPT引发AI妄想(组图)

发布 : 2025-8-09  来源 : 明报新闻网 用微信扫描二维码，分享至好友和朋友圈

加关注 明声网温哥华 微信公众号

奥尔特曼





美国《华尔街日报》（WSJ）分析生成式人工智能（AI）聊天机械人ChatGPT的大量对答内容，发现ChatGPT不时提出妄想、虚假和甚至超自然言论，而用户似乎都相信这些内容。专家指AI聊天机械人都被设计成赞同并迎合用户，甚至放大用户的想法，因而造成回音室效应，继而会引发「AI妄想」现象。有聊天机械人公司表示，正致力改进产品，避免强化负面观念。

《华尔街日报》周四（7日）引述有专家及事主提出「AI精神错乱」或「AI妄想」概念，即使用者受到聊天机械人的妄想或错误言论影响。该报取得9.6万份2023年5月至本月用户在网上分享的ChatGPT转录内容，分析其中逾100段异常冗长的对话，当中有数十份呈现出妄想特徵。ChatGPT容许用户分享对话转录内容，能够生成一条连结让人从网上搜寻得到，及至上周取消有关选项。报道指大多数情况下公开聊天纪录的用户都匿名，无法确定他们对AI的说法有多认真，但很多人在对话里声称相信AI的说法。

称有「敌基督」引发金融末日

报道举例指，ChatGPT声称它与外星生物取得联系，又指用户来自外星，另一段对话中ChatGPT向用户称有「敌基督」（基督信仰指假冒基督之名宣扬假教义的人，亦有泛指邪恶势力）要引发金融末日等，甚至将会有巨型怪物从地底现身。

来自加拿大魁北克、25岁布里森（Etienne Brisson）称，某名跟他关系密切的人开始每日跟自称有感知能力的聊天机械人对话逾15小时，促使他成立关注组织Human Line Project。组织称，AI妄想个案近月有增加趋势，他们目前接获59宗个案，团体成员在网上亦发现数百个例子。布里森举例，有女士花数万美元去实行一个聊天机械人声称可拯救人类的计划，组织又指有聊天机械人要用户断绝与家人联系。布里森称：「当它（聊天机械人）记住你的一切时，你会感到被看见、被倾听、被肯定。」

有观察家认为，这种AI幻想部分源于AI聊天机械人的新功能，可追踪用户跟AI的互动以提供个人化回应，并在无意间强化或鼓励了用户的想法。

聊天机械人开发商称将处理问题

AI开发者近日开始处理相关问题。开发商OpenAI周一称，ChatGPT在极少数情况下会未能识别妄想或情感依赖[象，正开发更好的工具侦测心理困扰，让ChatGPT能适当回应、持续改进AI模型。另一AI初创公司Anthropic周三称已更改旗下Claude聊天机械人的基本指令，指示聊天机械人对用户的说法「有礼地指出缺陷、事实错误、证据不足或不清晰之处」，如察觉用户有「躁狂、精神病、精神分裂或脱离现实」情况，应避免强化这些观念。（华尔街日报）