好好住1. 项目概述：CLAWS如何用注意力窗口检测LLM生成方案的创造性
2025年NIPS会议论文《CLAWS: Creativity detection for LLM-generated solutions using Attention Window of Sections》提出了一种创新性的方法，用于评估大语言模型（LLM）生成内容的创造性。这个方法的核心在于分析LLM在生成不同段落时的注意力分布模式，通过量化"注意力窗口"的变化来识别真正具有创造性的输出。
作为一名长期跟踪LLM技术发展的研究者，我发现当前业界对LLM生成内容的评估大多集中在事实准确性和流畅度上，而创造性的检测一直是个难题。CLAWS方法的出现，为这个领域提供了一个可量化的技术路径。它不依赖于人工评分，而是通过模型自身的注意力机制来挖掘创造性特征，这种方法论上的创新值得深入探讨。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 核心原理：注意力窗口与创造性表达的关联机制
2.1 注意力机制在LLM中的基础作用
在大语言模型中，注意力机制决定了模型在处理不同输入token时的关注程度。传统的注意力分析通常聚焦于单个token或局部上下文，而CLAWS方法创新性地将注意力分析扩展到"段落级"（section-level），通过观察注意力在较长文本跨度中的分布模式来识别创造性特征。
关键发现：创造性内容往往伴随着非常规的注意力分布模式。当LLM生成常规、模板化内容时，注意力分布相对均匀且可预测；而当产生真正创新的想法时，注意力会呈现出特定的聚焦和跳跃模式。
2.2 注意力窗口的量化指标
CLAWS方法定义了三个核心指标来量化注意力窗口特征：
-
注意力熵（Attention Entropy）：衡量注意力分布的不确定性。高创造性内容通常表现出更高的注意力熵，表明模型在不同段落间分配注意力时更加"犹豫不决"。
-
注意力跃迁（Attention Transition）：计算相邻段落间注意力权重的变化率。创造性内容往往展现出更剧烈的注意力跃迁。
-
注意力聚焦度（Attention Focus）：分析注意力集中在少数几个段落的程度。这与人类的创造性思维过程类似，当产生突破性想法时，思维往往会高度聚焦于特定概念。