1. 项目背景与核心挑战
在AI辅助写作领域,长文本生成一直存在两个顽固难题:内容幻觉(Hallucination)和逻辑连贯性缺失。前者表现为模型生成与事实不符或无法验证的内容,后者则体现在段落间缺乏自然过渡和整体一致性。这两个问题在学术论文、技术文档等需要严谨结构的写作场景中尤为致命。
中科大与华为诺亚方舟实验室联合提出的RAPID框架,创新性地将结构化写作规划(Structured Writing Planning)引入生成过程。不同于传统端到端生成方式,RAPID通过显式建模写作蓝图,实现了对内容真实性和结构连贯性的双重控制。这个方案在arXiv最新论文中展示了显著优于基线模型的表现,在事实准确性指标上提升达37%,段落衔接自然度提高29%。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. RAPID框架技术解析
2.1 分层规划架构设计
RAPID的核心创新在于三级规划机制:
-
宏观大纲层:采用树状结构表示文档整体框架,每个节点包含章节标题和核心论点。实验中使用改进的Beam Search算法进行多路径探索,确保主题覆盖完整。
-
段落规划层:为每个章节生成详细的内容蓝图,包括:
- 关键事实列表(需与知识库验证)
- 论证逻辑流程图
- 跨段落引用关系
-
微观控制层:在token级生成时,通过动态注意力门控机制确保文本严格遵循规划。具体实现上,将规划信息编码为控制向量,与常规文本表示进行加权融合。
关键技巧:在段落规划阶段引入"可信度评分"机制,对每个待生成事实进行三重验证(知识库检索、上下文一致性检查、领域规则过滤)
2.2 幻觉抑制技术实现
团队设计了联合训练的目标函数:
code复制L = λ1·Lgeneration + λ2·Lfact + λ3·Lcoherence
其中Lfact通过对比学习实现,将生成内容与结构化知识图谱对齐。具体操作时:
- 使用SPARQL查询从Wikidata抽取相关事实三元组
- 通过双编码器计算生成句子与事实的语义相似度
- 对存在冲突的内容触发重生成机制
实测发现,当λ2取0.4-0.6时,能在保持语言流畅性的同时最大化事实准确性。过高的权重会导致文本机械重复知识库内容。
