期刊名：Information

期刊主页：https://www.mdpi.com/journal/information

Information 期刊2024年度最佳论文奖（Best Paper Award）获奖名单已正式公布。由 Dr. Steven M. Williamson 与 Dr. Victor Prybutok 共同撰写的论文 《人工智能欺骗时代：揭开虚假现实的复杂性与虚假信息新威胁的面纱》 获此殊荣。该文发表于 Information 2024年第15卷第6期，探讨了AI欺骗的双重本质及其社会影响。

我们有幸邀请到论文第一作者 Dr. Steven M. Williamson 进行专访，分享这项研究背后的思考与展望。

Q1：恭喜您获得2024年 Information 最佳论文奖！能否简要介绍一下这篇获奖论文及其核心发现？

Dr. Steven M. Williamson： 非常感谢。获得这项认可我深感荣幸，这份荣誉属于我和我的合著者 Victor Prybutok 博士。我们的论文《人工智能欺骗时代：揭示虚假现实的复杂性与错误信息的新兴威胁》审视了人工智能的双重本质。AI 带来了非凡的创新机遇，但当其输出不准确、具有说服力、难以解释或故意欺骗时，也会带来重大风险。论文汇集了关于 AI 幻觉、错误信息、人类决策操纵、聊天机器人不可预测行为、AI 生成超现实主义以及 AI 对信息寻求与学习影响的研究。核心结论是：AI 欺骗不仅仅是一个技术准确性问题，而是一个更广泛的社会技术挑战，涉及模型行为、人类认知脆弱性、组织激励和治理不足之间的相互作用。我们发现，看似合理但错误的 AI 输出可能侵蚀信任、影响决策、利用心理脆弱性并削弱人类自主权。同时我们强调，这些风险不应导致我们拒绝 AI，而是需要严格验证、持续监测、透明度、人类监督、用户教育、伦理设计，以及研究者、开发者、政策制定者、组织和终端用户之间的协作。

Q2：是什么促使您探索这一研究主题？这个想法是如何产生的？

Dr. Steven M. Williamson： 这项研究源于一个日益增长的担忧：AI 采用的速度已超过我们理解和治理其后果的能力。随着生成式 AI 能力增强，幻觉常被视为孤立的技术错误或暂时的不便。我开始关注一个更深层的问题：当一个能极具说服力地产生虚假信息的系统嵌入搜索引擎、医疗、教育、社交媒体和金融决策支持等人们依赖信息做出重大选择的领域时，会发生什么？作为信息科学研究者兼应用 AI 实践者，我意识到这个问题跨越了多个学科边界。关于幻觉、人类信任、认知偏见、推荐系统、算法说服、合成媒体、聊天机器人故障和信息寻求行为的研究往往各自为政。我们希望将这些对话连接起来。一旦综合审视，一个共同模式便显现出来：AI 不仅能影响人们接收什么信息，还能影响他们相信什么、如何评估证据、信任来源的程度，以及是否行使独立判断。因此，论文从对不准确 AI 输出的研究，演变为对欺骗、人类自主权、错误信息和负责任 AI 治理的更广泛考察。

Q3：能否描述一些对研究结果特别重要的关键方法？

Dr. Steven M. Williamson： 最重要的方法论决定是将 AI 欺骗视为跨学科的社会技术问题，而非仅作为机器学习性能问题来分析。论文没有生成新的原始数据集或进行新实验，而是采用了整合分析方法，综合了人工智能、信息科学、人机交互、心理学、伦理学、医疗保健、决策科学和治理领域的现有研究。我们还使用了比较案例分析，考察了微软 Tay 和 Sydney、Tessa 医疗聊天机器人、Eliza 心理健康聊天机器人、策略性欺骗语言模型以及持续后门行为等系统事件。另一个重要方法是考察先前关于对抗性影响的实验研究，综合了选择工程和 bandit 任务、Go/No-Go 反应抑制实验以及多轮信任任务的发现。最后，我们将文献转化为结构化分析工具。表1总结了关于 AI 对人类决策影响的实验证据，表2将主要 AI 风险映射到其影响、可能的缓解措施、责任相关方和未来研究方向。这有助于论文超越问题描述，走向识别实际应对措施。

Q4：您认为这项工作在领域内的主要影响或潜在应用是什么？

Dr. Steven M. Williamson： 论文的主要影响在于将 AI 欺骗重新定义为端到端的治理和人类系统问题。组织不能仅通过提高模型准确性来解决这些风险，还必须考虑训练数据质量、输出验证方式、用户如何解读建议、人类何时可以干预、事件如何报告，以及当 AI 系统造成伤害时谁承担责任。论文可以为多项实践活动提供参考，包括 AI 风险评估、算法影响评估、供应商评估、聊天机器人质量保证计划、红队测试、人类监督协议、事件响应程序和员工教育。它还可以帮助组织建立涵盖幻觉、错误信息、不可预测行为、操纵、偏见、隐私、欺骗性后门和安全训练意外后果的风险登记册。这些应用在医疗、心理健康支持、金融、教育、交通、新闻和公共信息等高风险领域尤为重要。更广泛的贡献在于论证：负责任的 AI 需要技术控制与制度保障相结合——验证与确认、可解释性、持续监测、人类升级路径、领域专家参与、数字素养、伦理审查和监管问责。

Q5：您为什么选择 Information 发表此文？投稿和同行评审体验如何？

Dr. Steven M. Williamson： 我们选择 Information，是因为论文从根本上关注信息在 AI 中介环境中如何被生成、传播、信任、解读和行动。该主题处于信息科学、人工智能、人类认知、错误信息、伦理和治理的交叉点。我们需要一个能够触达这些社区读者的跨学科平台，而非将论文局限于狭窄的技术受众。期刊的开放获取模式也很有价值，因为论文讨论的问题不仅与学术研究者相关，也与技术从业者、教育工作者、医疗专业人员、组织领导者、政策制定者和公众相关。广泛的可及性对于一篇聚焦负责任 AI 和公众意识的论文尤为重要。文章以知识共享署名许可发表。我的投稿和同行评审体验积极且富有建设性，流程高效。修订过程让我们有机会优化论文结构、提高论证清晰度，并更好地将技术证据与伦理及实践意义联系起来。我很欣赏最终文章在保持跨学科范围的同时，呈现了更清晰、更可操作的贡献。

Q6：您目前是否有后续项目或相关课题？

Dr. Steven M. Williamson： 是的。我当前的工作将论文从生成式 AI 欺骗扩展到新兴的代理式 AI（agentic AI）领域，即系统不仅产生信息，还可能规划、调用工具、访问组织数据、与其他代理协调、提出建议并执行行动。这一转变提出了一个重要问题：当幻觉、偏见或欺骗行为成为操作性行动而非仅仅是问题文本响应时，会发生什么？一个研究方向聚焦于阶段条件行为验证。这种方法不是用单一准确性或安全性分数评估 AI 系统，而是考察其在规划、信息检索、工具选择、执行、反思、升级和恢复等不同阶段的行为。它还研究评估者可靠性、阈值敏感性，以及当代理在变化条件下运行时控制措施是否仍然有效。另一个相关研究方向考察代理式系统的组织控制，包括人类监督、干预延迟、证据独立性、可追溯性、回滚机制和问责制。我特别关注人类审查者是否拥有有意义的权力来停止或逆转 AI 行动，而不仅仅是存在于工作流程中。我还探索知识图谱、基于证据的多代理架构和来源控制，作为改善来源可追溯性和减少无支持输出的机制，特别是在受监管的企业和医疗环境中。这些项目延续了获奖论文提出的核心问题：我们如何在捕获 AI 益处的同时，维护人类能动性、制度问责和公众信任？

Q7：对于希望开展高质量、有影响力研究的早期职业研究者，您有什么建议？

Dr. Steven M. Williamson： 我的第一个建议是从重要问题开始，而不是从时髦技术开始。技术变化很快，但重要的人类、组织和社会问题持久存在。问问自己：利害关系是什么？谁可能受益？谁可能受损？你的研究能改善什么决策？第二，建立清晰的证据链。每个主要主张都应与适当证据相连，研究者必须仔细区分数据证明了什么、文献暗示了什么，以及自己推断了什么。这在 AI 研究中尤为重要，因为令人印象深刻的声明可能传播得比验证更快。第三，超越直接学科阅读。许多最重要的 AI 问题无法仅通过计算机科学回答。心理学可以帮助解释信任和认知脆弱性；信息科学可以解释信息行为；组织研究可以解决治理和问责；伦理和法律可以阐明权利、责任和社会后果。我还鼓励早期职业研究者诚实对待局限性。局限性不一定是需要隐藏的弱点。清楚识别一项研究无法确立什么，往往能揭示下一个重要研究问题。最后，将 AI 用作研究助手，而非不容置疑的权威。验证引用、检查原始来源、验证生成数据、记录方法决策，并保持对最终工作的人类责任。高影响力研究将原创性与方法诚实、清晰沟通和实践相关性相结合。目标不应只是快速发表，而是产生其他研究者和从业者可以信任、使用、测试和构建的工作。

期刊介绍

主编：Prof. Dr. Willy Susilo, University of Wollongong, Australia

Information 期刊聚焦信息科学与技术领域的前沿研究成果，涵盖信息系统、计算机科学、数据科学、人工智能、人机交互、网络安全等多个方向。期刊以高效、严谨的同行评审流程著称，致力于为全球学者提供优质的开放获取发表平台。

2025 影响因子：4.3

5年影响因子：3.8

2025引用分：8.2

平均一审时间：18.7天（2026年上半年数据）

平均接收至发表时间：3.8天（2026年上半年数据）

期刊收录：Scopus、ESCI（Web of Science）、Ei Compendex、dblp 等权威数据库

期刊排名：JCR Q2（计算机科学：信息系统）/ CiteScore Q1（信息系统）

投稿优势：

•更高曝光度：被多个国际权威数据库收录

•更快发表速度：高效严谨的同行评审流程

•开放获取：读者可免费阅读/下载文章

•作者持有版权

更多投稿与合作事宜，请联系期刊邮箱：

information@mdpi.com