1. 高分辨率图像小目标处理的挑战与FINERS框架概述
在计算机视觉领域,处理高分辨率图像中的微小目标一直是个棘手问题。想象一下用无人机拍摄的4K航拍图像——画面中可能包含数百个像素点大小的车辆或行人,这些目标在整张图片中占比可能不到0.1%。传统多模态大语言模型(MLLMs)如GPT-4V或LLaVA在处理这类场景时,往往会遇到三个典型问题:
首先,分辨率限制导致细节丢失。主流MLLMs通常将输入图像下采样到224×224或336×336的分辨率,这个过程中微小目标的视觉特征几乎被完全抹去。就像把高清地图缩略成手机图标大小,所有街道细节都会消失。
其次,复杂背景干扰严重。无人机图像中,一个小目标可能被树木阴影、建筑纹理或相似颜色的地面图案包围,这使得模型难以区分目标和背景噪声。
最后,现有方法缺乏统一的处理框架。大多数系统要么专注于问答推理,要么只做目标检测,很少能同时完成"看到-理解-定位"的完整认知链条。
FINERS框架的创新之处在于它采用了类似人类观察方式的"先扫视后聚焦"两阶段策略。第一阶段(全局语义探索)快速扫描整图,锁定可能包含目标的区域;第二阶段(局部感知细化)则像用放大镜一样仔细检查这些区域。这种设计既避免了直接处理超高分辨率图像的计算负担,又确保了微小目标不会被遗漏。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. FINERS技术架构深度解析
2.1 全局语义探索模块(GSE)设计原理
GSE模块的核心是一个经过特殊调优的多模态大语言模型。与常规MLLMs不同,我们对其进行了三方面改进:
视觉编码器方面,采用分层特征提取策略。原始图像被分割成多个512×512的区块,每个区块分别通过CLIP-ViT-L/14模型提取特征。这种处理方式相比直接下采样整图,能保留更多微小目标的边缘信息。
语言解码器方面,引入"区域描述生成"任务。除了常规的问答响应,模型还需要输出类似"目标可能位于图像右上1/4区域,靠近红色建筑物"的定位描述。我们设计了一套基于模板的规范化表达方式,确保输出的区域描述可以被程序化解析。
多任务训练策略上,采用渐进式课程学习。先让模型在低分辨率图像上学习基础视觉问答能力,然后逐步提升图像复杂度,最后过渡到高分辨率微小目标场景。这个过程类似于飞行员先在地面模拟器训练,再逐步尝试真实飞行。
