Zam20191. 项目背景与核心创新
计算机视觉领域近年来在图像处理任务上取得了显著进展，但边缘特征保持仍然是超分辨率、去噪等任务中的关键挑战。传统自注意力机制在全局特征建模方面表现出色，但在边缘细节处理上往往力不从心。我们团队提出的DHOGSA（Directional Histogram of Oriented Gradients Self-Attention）机制，创造性地将HOG（方向梯度直方图）先验知识融入Transformer架构，实现了对图像边缘特征的精准聚焦。
这个工作的诞生源于我们在图像超分实际项目中观察到的现象：当处理带有文字或锐利边缘的图像时，常规Transformer模型会产生模糊或伪影。通过分析发现，标准自注意力机制在计算相似度时，缺乏对边缘方向性和梯度幅值的显式约束。DHOGSA的突破点在于，它不需要额外训练边缘检测模块，而是通过改进注意力权重计算方式，使模型自动强化边缘相关特征的注意力分布。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 关键技术解析
2.1 HOG特征先验的嵌入方法
HOG特征传统上用于行人检测等任务，我们对其进行了三方面改造以适应自注意力机制：
-
多尺度梯度计算：在8×8像素单元内计算梯度方向直方图，采用L2-Hys归一化处理。与常规做法不同，我们保留了原始梯度幅值作为权重系数，公式表示为：
code复制w_ij = exp(||G_i·G_j|| / √d) × (1 + λ·cos(θ_i - θ_j))其中G表示梯度向量，θ为梯度方向，λ是可学习的平衡参数。
-
方向一致性约束：在计算query-key相似度时，引入方向一致性惩罚项。当两个位置的梯度方向差异超过π/4时，会施加0.7-1.3的动态衰减系数。这个阈值是通过在DIV2K验证集上的网格搜索确定的。
-
边缘显著性增强：对HOG响应强的区域（梯度幅值前20%的像素），将其注意力权重乘以可学习的放大系数α（初始值1.5）。实验表明这个设计对文本图像提升尤为明显。
2.2 动态门控注意力机制
标准softmax注意力在边缘处理上存在过度平滑问题。我们提出动态门控机制，包含两条并行路径：
- 常规自注意力路径：保持原始全局特征建模能力
- HOG引导路径：专注局部边缘特征增强
两