情感识别中特征工程与Transformer模型的性能对比

1. 项目概述：情感识别领域的特征工程与Transformer之争

最近在复现情感识别实验时发现一个反直觉现象：精心设计的领域特征（Domain Features）在多个基准测试中 consistently 击败了基于Transformer的端到端模型。这个发现促使我重新审视NLP领域"一切皆可Transformer"的流行趋势，尤其在计算资源受限的实际场景中。

2. 核心发现与技术背景

2.1 实验基准与对比结果

在IEMOCAP、MELD和DailyDialog三个主流情感识别数据集上，我们对比了：

1. 传统特征工程方案：

   • 声学特征（MFCC、韵律、频谱）
   • 文本特征（LIWC词典、情感词汇嵌入）
   • 会话特征（对话轮次、响应延迟）

2. 主流Transformer模型：

   • BERT-base
   • RoBERTa
   • DeBERTa

实验结果显示，传统特征组合在识别准确率上平均领先Transformer模型3.7个百分点，在愤怒、惊讶等强情绪类别上优势可达8.2%。

2.2 领域特征的优势解析

2.2.1 信号层面的物理意义

声学特征的25维MFCC参数直接对应人类发声系统的生理特性。例如：

• 第1-6维：声道形状表征
• 第7-12维：声带振动特征
• 高频维度：情感相关的发音细节

2.2.2 计算效率对比

特征工程方案在推理时仅需：

• 声学特征：约15ms/utterance
• 文本特征：约5ms/utterance
  而BERT-base单次推理需要约120ms（RTX 3090）

3. 混合架构的实践方案

3.1 特征融合网络设计

我们提出双流混合架构：

code复制[声学特征] → 1D-CNN → 特征融合层 → BiLSTM → 分类头
[文本特征] → 特征选择模块 ↗

关键实现细节：

python复制class FeatureFusion(nn.Module):
    def __init__(self, audio_dim=64, text_dim=64):
        super().__init__()
        self.attention_gate = nn.Se