1. 多模态仇恨言论检测的现状与挑战
网络仇恨言论检测一直是内容安全领域的重点课题。随着社交媒体平台的发展,仇恨言论的传播形式已经从单纯的文字演变为图文结合的多模态内容,尤其是模因(meme)这种融合图像与文本的载体。这类内容往往利用文化背景知识和隐喻手法,使得传统基于单一模态的检测方法难以应对。
当前主流的多模态检测方法主要面临三大瓶颈:
-
数据标注的局限性:现有数据集大多采用二元标签(仇恨/非仇恨),缺乏对仇恨类型、攻击对象、严重程度等维度的细粒度标注。这种粗糙标注无法反映真实场景中仇恨言论的复杂性。
-
上下文感知缺失:模因的理解高度依赖发布平台、用户群体和文化背景。例如,同一张图片在4chan和微博可能被赋予完全不同的含义,但现有模型很少考虑这些上下文因素。
-
多模态融合的表面化:大多数模型简单拼接图像和文本特征,缺乏对两者深层语义关联的建模。当文本使用隐喻或图像包含符号化元素时,这种浅层融合容易失效。
提示:在实际内容审核工作中,我们经常遇到"表面无害但隐含恶意"的模因。例如使用卡通形象配文"某些群体应该回到他们该去的地方",这类内容需要结合特定历史背景才能识别其仇恨本质。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. M³数据集的构建方法论
2.1 智能体协同标注框架设计
传统人工标注面临成本高、一致性差的问题。我们设计了一个由7个专用智能体组成的协同系统,每个智能体负责特定维度的标注任务:
- 内容解析智能体:分离图像中的视觉元素和文本内容
- 文化背景分析智能体:识别可能涉及的亚文化符号(如Pepe蛙等)
- 仇恨目标识别智能体:标注被攻击的群体属性(种族/宗教/性别等)
- 攻击强度评估智能体:划分仇恨程度等级(1-5级)
- 修辞手法识别智能体:标注使用的隐喻、反讽等手法
- 上下文关联智能体:分析发布平台和用户群体的特征
- 质量校验智能体:验证各智能体输出的逻辑一致性
这种分工模式相比传统端到端标注具有三大优势:
- 每个智能体只需专注特定任务,准确率更高
- 标注结果附带详细依据,便于后续模型训练
- 通过校验智能体确保不同维度标注的逻辑自洽
2.2 数据采集与处理流程
我们从三大典型平台采集原始数据:
- **X(原T
