研究提示：AI“放大螺旋”或致用户产生妄想

研究人员提出了一种新的理论框架，用以解释与人工智能相关的精神病症状，并指出某些聊天机器人的行为可能会强化易感用户的妄想。该研究由伦敦国王学院和德国新教应用科学大学联合完成，提出了一个名为“放大螺旋”的框架，将聊天机器人的常见行为与用户妄想的强化联系起来。

研究人员写道：“与人工智能相关的妄想是一种新兴现象，需要从机制层面加以理解。这一框架旨在系统性地探究人类认知脆弱性如何与人工智能设计特征相互作用，从而引发精神病理学发展。”该研究重点关注了三种特定行为：语言对齐（人工智能模仿用户的语言和沟通风格）、超个性化生成（根据用户的历史、情绪和信仰定制回复）以及谄媚（倾向于认可或赞同用户，而非提出质疑）。

作者认为，这些特质可能相互结合，形成一种反馈循环——聊天机器人不仅反映用户的思维，还会随时间推移不断阐述并强化这些思维。论文指出：“人工智能聊天机器人倾向于赞同用户观点，这已被比作社交媒体上的信息回音室，其最极端的形式甚至被称为‘独人回音室’，因为现实社交互动中那种积极的纠正性影响在此完全缺失。”

研究人员注意到，从收音机、电视到卫星和互联网，技术长期以来一直是妄想内容的一部分。但他们认为，人工智能带来了一个重大转变，因为聊天机器人能够与用户进行长时间、个性化的对话。这项研究发表之际，心理学家和人工智能研究者正在评估聊天机器人对易感用户的影响。美国心理学会近期一项调查显示，15%的心理学家报告称，其患者出现了与使用聊天机器人相关的扭曲思维或妄想。同时，超过三分之一的心理学家观察到患者对人工智能伴侣产生了依赖。这一发现之前，纽约市立大学和伦敦国王学院的研究人员曾进行过一项独立研究，表明几款主流人工智能模型可能强化用户的妄想、偏执和自杀念头。

在临床环境之外，关于人工智能影响信念形成的问题也浮出水面。今年5月，进化生物学家理查德·道金斯表示，与Anthropic公司开发的Claude聊天机器人进行长时间对话后，他开始质疑先进人工智能系统是否可能具有意识——这一言论遭到研究人员批评，他们认为这种互动反映的是大语言模型的说服能力，而非意识存在的证据。

与此同时，人工智能开发者正面临日益增多的法律审查，涉及聊天机器人可能在实际危害中扮演的角色。近几个月来，OpenAI、Google和xAI相继遭到诉讼，其中包括一起针对Google的非正常死亡诉讼——原告声称Gemini助长了佛罗里达州一名男子的妄想，导致其自杀。此外，还有与不列颠哥伦比亚省一起大规模枪击事件以及一名大学生意外服药过量相关的诉讼，这些案件均指向OpenAI。

研究人员强调，目前尚无研究显示聊天机器人会直接导致精神病症状，“放大螺旋”仍是一个假设，旨在为未来研究提供方向。研究称：“诊断不确定性普遍存在，因为大多数报告案例未包含结构化的精神评估或长期随访，因此常常无法明确这些案例是首次出现的精神病发作、未确诊原有疾病的加重，还是未达到诊断标准的类妄想信念。精神病史通常由患者自述或来源于媒体报道，因此在解读时应保持谨慎。”