论文标题：Human-computer interaction and visualization in natural language generation models: applications, challenges, and opportunities

期刊：Frontiers of Computer Science

作者：Yunchao WANG, Guodao SUN, Zihang FU, Ronghua LIANG

发表时间：4 Jul 2025

DOI：10.1007/s11704-025-50356-6

微信链接：点击此处阅读微信文章

标题：Human-computer interaction and visualization in natural language generation models: applications, challenges, and opportunities

作者：Yunchao WANG, Guodao SUN, Zihang FU, Ronghua LIANG

DOI：10.1007/s11704-025-50356-6

扫码阅读原文↑

摘要：

自然语言生成（NLG）模型虽性能卓越，但其复杂的架构和海量参数带来了严重的解释性难题。浙江工业大学研究团队提出“数据-模型-系统”三层分类新视角，深入探讨了人机交互（HCI）与可视化技术在提升模型透明度与可用性方面的关键作用。该综述不仅总结了当前在语法分析、模型解释及交互生成等六大任务上的研究成果，还前瞻性地指出了大模型时代下实现人类理解与控制的新机遇。

内容精要

在自然语言处理领域，NLG模型已广泛应用于代码生成、文本创作及任务规划等场景。然而，一个核心技术痛点在于：这些模型本质上是“黑盒”系统，其决策过程高度不透明，限制了其在高风险决策场景中的应用。虽然大语言模型（LLM）能够生成高质量输出，但由于缺乏直观的解释机制，用户往往难以理解模型为何生成特定结果，也无法对其进行精准的逻辑干预与优化。

为了解决这一难题，浙江工业大学团队提出了结合HCI方法与可视化技术的系统性研究框架。该研究从三个维度解构了增强NLG模型性能与透明度的路径：在数据层，通过语法与语义分析技术，直观呈现文本的内在结构；在模型层，利用全局与局部可解释性分析，揭示模型内部的特征选择与决策逻辑；在系统层，构建交互式生成与探索框架，支持用户通过反馈迭代不断精炼输出。团队还细化了热力图、知识图谱及雷达图等可视化技术，以及动态交互、叙述引导等HCI手段在实际任务中的具体应用。

研究表明，HCI与可视化技术的集成不仅能有效降低用户的使用门槛，还能通过“人在回路”（Human-in-the-loop）模式持续优化模型表现。数据显示，可视化推断过程能显著增强模型的透明度，帮助开发者识别并纠正模型偏差。这一综述为相关领域的研究者提供了宝贵的参考，明确了在LLM时代构建更具可解释性、交互性与鲁棒性的智能生成系统的关键技术路径。

期刊简介

Frontiers of Computer Science （FCS）是由教育部主管、高等教育出版社和北京航空航天大学共同主办，南京大学支持，SpringerNature 公司海外发行的英文学术期刊。本刊于 2007 年创刊，月刊，全球发行。主要刊登计算机科学领域具有创新性的综述论文、研究论文等。本刊主编为周志华院士，执行主编为周昆教授。编委会及青年 AE 团队由国内外知名学者及优秀青年学者组成。本刊被 SCI、Ei、DBLP、INSPEC、SCOPUS 和中国科学引文数据库（CSCD）核心库等收录，为 CCF 推荐B类期刊；两次入选“中国科技期刊国际影响力提升计划”；入选“第4届中国国际化精品科技期刊”；两次入选“中国科技期刊卓越行动计划”（一期梯队、二期领军）。