卷积与Transformer融合：DECO框架实现高效目标检测

1. 论文背景与核心贡献

近年来，计算机视觉领域见证了Transformer架构的崛起，特别是在目标检测和图像分割任务中，基于Transformer的方法如DETR系列展现出了显著优势。然而，这篇ICLR 2025的论文却将目光重新聚焦于卷积神经网络(ConvNets)，提出了一个令人耳目一新的视角：用纯卷积结构实现Transformer风格的目标查询机制。

传统基于卷积的检测器如Faster R-CNN通常需要复杂的后处理步骤（如非极大值抑制NMS），而DETR等Transformer方法虽然实现了端到端检测，却面临着计算复杂度高和训练困难的问题。本文的创新之处在于，它成功地将两种范式的优势结合起来——既保留了卷积的高效局部性，又获得了类似Transformer的全局建模能力。

关键突破：首次实现了完全基于标准卷积构建的查询式检测框架，在保持卷积高效特性的同时，获得了与Transformer相当的性能表现。

2. InterConv机制深度解析

2.1 传统注意力与卷积的对比

在深入InterConv之前，我们需要理解标准注意力机制与卷积操作的本质区别。传统自注意力通过计算查询(Query)、键(Key)和值(Value)之间的全局关系来建模长程依赖，这种操作的复杂度与输入尺寸的平方成正比。而卷积则通过局部感受野和权重共享来提取特征，计算效率更高但难以建立全局关联。

InterConv的巧妙之处在于，它通过特定的卷积核设计和特征交互方式，模拟了注意力机制的三要素（QKV）交互过程。具体实现上：

1. 查询投影：使用1×1卷积将目标查询(learnable query embeddings)投影到特征空间
2. 特征交互：通过深度可分离卷积实现查询与图像特征的多尺度交互
3. 响应聚合：采用门控机制动态调节不同位置的特征响应强度

2.2 InterConv的数学表达

设输入特征图为F∈R^(H×W×C)，目标查询为Q∈R^(N×C)，其中N是预设的目标查询数量。InterConv的操作可形式化为：

code复制Q' = Conv1x1(Q)  # 查询投影
F' = DWConv3x3(F)  # 特征变换
A = σ(Q' ⊛ F')  # 通过特定卷积实现注意力图计算
Output = A