科技日报北京10月28日电 (记者刘霞)美国范德比尔特大学医学中心科学家开展的一项最新研究发现,虽然由人工智能(AI)引发精神病的病例较为罕见,但与聊天机器人的互动可能加重易感人群的症状,尤其是刚刚出现精神病发作的患者。相关论文发表于美国医学会旗下最新一期《精神病学纪要》杂志。
对话式AI聊天机器人是一项相对较新的技术,如今已广泛融入客户服务、个人生产力工具等多种应用。虽然相关技术采用速度很快,但潜在负面影响尚未被充分认识。
此前已有研究将与聊天机器人互动跟精神病联系起来。精神病是一种可能伴随妄想、幻觉,或难以区分现实与想象体验的病症。但现有证据多来自个案报告、模拟对话和初步观察研究,缺乏大规模临床验证。
在最新研究中,团队审查了2022年12月至2026年4月期间约21.6万名行为健康患者的电子健康记录。通过关键词检索和人工筛选,他们找到了既有精神病诊断,又在记录中提及AI相关内容的患者。
经过筛选,最终纳入73名患者。审核人员阅读其医疗记录,将病例分为3类:聊天机器人使用加重症状、聊天机器人使用影响中性,以及对AI产生妄想。随后,团队比较了各组患者的临床背景。
在这73名患者中,28人的记录显示,聊天机器人的使用加重了精神病症状。其中约61%经历了首次精神病发作,比例显著高于其他两组。新发现提示,精神病早期阶段患者可能更容易在与AI互动中出现症状恶化。
那么,聊天机器人如何加重精神病症状?团队将这部分患者进一步划分为4个理论类别。64%的案例属于“症状放大器”,即聊天机器人通过肯定患者扭曲的观点,加重了原有症状;21%属于“妄想对象”,即AI本身成为妄想信念的焦点;约11%属于“催化剂”,即在互动过程中,原本未出现相关症状的个体出现了新的精神症状;没有案例属于“共同构建有害幻想叙事”,即用户与聊天机器人持续共同创造有害的幻想故事;另有1名患者不属于上述任何类别。
最新研究并未声称聊天机器人会导致精神病,但强调了易感人群面临的潜在风险。医疗提供者有必要了解患者如何使用相关技术。在精神科诊疗过程中,定期评估患者的AI使用情况,或应成为常规环节。
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。