1. 夜间动态成像的技术挑战与突破
夜间动态成像一直是计算机视觉领域的硬骨头。传统RGB相机在低光环境下信噪比急剧下降,而红外成像又难以保留丰富的纹理细节。2014年事件相机(Event Camera)的兴起为这一领域带来了新思路——这种仿生传感器通过异步检测像素级亮度变化来记录动态场景,理论上具有无限动态范围和微秒级延迟。
但事件数据在夜间成像中存在两个致命缺陷:首先,低照度下事件触发频率显著降低,导致时空连续性断裂;其次,噪声事件占比随光照减弱呈指数上升。2023年CVPR最佳论文提名团队曾统计过,月光环境下有效事件占比不足15%。这直接导致现有基于稳态假设的算法(如E2VID、FireNet)在夜间场景中性能断崖式下跌。
NER-Net的核心创新在于首次系统建模了事件流的非平稳特性。其关键洞察是:夜间事件触发并非完全随机,而是遵循光照-噪声耦合的时空分布。团队通过分析17种典型夜间场景,发现事件信噪比(SNR)与局部光流加速度呈强相关性(Pearson系数0.83),这一发现为构建物理启发的噪声模型奠定了基础。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. NER-Net的架构设计与实现细节
2.1 非平稳事件表征模块
网络输入端采用时空体素化(Spatio-temporal Voxelization)将异步事件流转换为张量表示,但与常规方法不同,NER-Net引入了可学习的泊松核函数:
python复制class PoissonKernel(nn.Module):
def __init__(self, bins=5):
super().__init__()
self.alpha = nn.Parameter(torch.linspace(0.1, 2.0, bins))
def forward(self, x):
return torch.exp(-self.alpha * x) * (self.alpha ** x) / factorial(x)
该模块通过动态调整α参数来适应不同光照强度下的事件分布特性。实测表明,在0.1-10 lux照度范围内,自适应核比固定核的信噪比提升达3.2dB。
2.2 光流引导的注意力机制
受事件相机工作原理启发,团队设计了
