1. 项目概述：基于RNN的AI歌词生成器
歌词创作一直是音乐创作中最具挑战性的环节之一。传统创作方式往往需要丰富的文学素养和音乐感知能力，而随着深度学习技术的发展，使用循环神经网络(RNN)生成歌词已成为一个有趣且实用的研究方向。这个项目将展示如何从零开始构建一个能够生成周杰伦风格歌词的AI系统，重点讲解数据集构建这一关键环节。
在自然语言处理领域，文本生成任务通常采用"序列到序列"的建模方式。给定一个起始词或短语，模型需要预测后续可能出现的词序列。与传统分类任务不同，歌词生成需要考虑语言的创造性、韵律感和上下文连贯性，这对模型架构和数据预处理提出了特殊要求。
提示：虽然本项目以周杰伦歌词为例，但同样的方法适用于任何语种的歌词生成，只需替换训练数据集即可。
2. 数据集构建全流程解析
2.1 原始数据收集与清洗
我们收集了周杰伦从首张专辑《Jay》到《跨时代》共10张专辑的歌词文本，原始数据包含5819行文本。这些歌词具有以下特点：
- 包含大量口语化表达和创造性词汇
- 频繁使用押韵和重复句式
- 具有独特的语法结构和断句方式
原始数据需要经过以下预处理步骤：
- 移除非歌词内容（如歌曲信息、制作人员名单等）
- 统一标点符号格式
- 处理特殊字符和表情符号
- 将全角字符转换为半角
python复制# 示例：基础数据清洗代码
def clean_text(text):
# 移除多余空格
text = re.sub(r'\s+', ' ', text)
# 统一换行符
text = text.replace('\r\n', '\n').replace('\r', '\n')
# 处理特殊符号
text = re.sub(r'[^\w\s\n\u4e00-\u9fff]', '', text)
return text.strip()
2.2 中文分词处理
与英文不同，中文需要进行分词处理。我们使用jieba分词库，并针对歌词特点进行定制：
python复制import jieba
# 添加歌词专用词典
jieba.load_userdict('lyrics_dict.txt')
# 示例分词函数
def lyrics_segment(line):
# 启用精确模式
words = jieba.lcut(line, cut_all=False)
# 过滤单字和空格
words = [w for w in words if len(w) > 1 or w == '\n']
return words
注意：对于"简单爱"、"双截棍"等专有名词，需要提前添加到自定义词典中，避免错误切分。
2.3 词表构建技术细节
词表构建是NLP任务的基础环节，我们的实现包含以下关键步骤：
- 词频统计与过滤：移除出现次数过少的词（通常<3次），减少噪声
- 特殊标记添加：包括[UNK]（未知词）、[PAD]（填充）、[START]（起始）、[END]（结束）
- 词索引映射：建立词到索引的双向字典
python复制def build_vocab(lyrics_path, min_count=3):
word_counts = {}
all_lines = []
# 第一遍扫描：统计词频
with open(lyrics_path, 'r', encoding='utf-8') as f:
for line in f:
words = lyrics_segment(line)
all_lines.append(words)
for word in words:
word_counts[word] = word_counts.get(word, 0) + 1
# 过滤低频词
filtered_words = {w for w, cnt in word_counts.items() if cnt >= min_count}
# 添加特殊标记
special_tokens = ['[PAD]', '[UNK]', '[START]', '[END]']
vocab = special_tokens + sorted(filtered_words)
# 创建映射字典
word2idx = {word: idx for idx, word in enumerate(vocab)}
idx2word = {idx: word for idx, word in enumerate(vocab)}
return word2idx, idx2word, all_lines
2.4 数据集类实现
我们继承PyTorch的Dataset类，实现自定义数据集：
python复制class LyricsDataset(Dataset):
def __init__(self, lines, word2idx, seq_length=32):
self.word2idx = word2idx
self.seq_length = seq_length
self.data = []
# 将文本转换为索引序列
for line in lines:
indices = [word2idx.get(word, word2idx['[UNK]']) for word in line]
self.data.extend(indices)
def __len__(self):
return len(self.data) // self.seq_length
def __getitem__(self, idx):
start = idx * self.seq_length
end = start + self.seq_length
# 处理边界情况
if end >= len(self.data):
end = len(self.data) - 1
start = end - self.seq_length
x = self.data[start:end]
y = self.data[start+1:end+1]
return torch.LongTensor(x), torch.LongTensor(y)
3. 模型架构设计与实现
3.1 词嵌入层优化
传统词嵌入直接使用随机初始化，我们可以采用预训练词向量提升效果：
python复制class LyricsGenerator(nn.Module):
def __init__(self, vocab_size, embedding_dim=128, pretrained=None):
super().__init__()
# 词嵌入层
if pretrained is not None:
self.embedding = nn.Embedding.from_pretrained(pretrained, freeze=False)
else:
self.embedding = nn.Embedding(vocab_size, embedding_dim)
# RNN层
self.rnn = nn.GRU(embedding_dim, 256, num_layers=2, dropout=0.3)
# 输出层
self.fc = nn.Linear(256, vocab_size)
3.2 多层GRU网络结构
相比基础RNN，我们使用GRU（门控循环单元）解决长程依赖问题：
python复制class GRUModel(nn.Module):
def __init__(self, vocab_size):
super().__init__()
self.embedding = nn.[Embedding](https://taotoken.net?utm_source=ai)(vocab_size, 128)
self.gru = nn.GRU(128, 256, num_layers=2,
bidirectional=False,
dropout=0.2)
self.fc = nn.Linear(256, vocab_size)
def forward(self, x, hidden):
embedded = self.embedding(x)
output, hidden = self.gru(embedded, hidden)
output = self.fc(output)
return output, hidden
3.3 注意力机制增强
为提升生成质量，可以加入注意力机制：
python复制class AttentionLayer(nn.Module):
def __init__(self, hidden_size):
super().__init__()
self.attention = nn.Linear(hidden_size, hidden_size)
def forward(self, rnn_output):
# 计算注意力权重
attention_weights = F.softmax(
self.attention(rnn_output), dim=1)
# 应用注意力
attended = attention_weights * rnn_output
return attended.sum(dim=1)
4. 训练策略与技巧
4.1 动态批处理技术
歌词长度不一，我们实现动态批处理：
python复制def create_batches(data, batch_size):
# 按长度排序
data.sort(key=lambda x: len(x))
batches = []
for i in range(0, len(data), batch_size):
batch = data[i:i+batch_size]
# 填充到最长序列
max_len = max(len(x) for x in batch)
padded = [x + [0]*(max_len-len(x)) for x in batch]
batches.append(torch.LongTensor(padded))
return batches
4.2 课程学习策略
逐步增加生成难度：
- 首轮训练：生成短句（8-12词）
- 中期训练：中等长度（16-24词）
- 后期训练：完整段落（32+词）
4.3 损失函数优化
使用带平滑的交叉熵损失：
python复制criterion = nn.CrossEntropyLoss(label_smoothing=0.1)
5. 生成效果优化技巧
5.1 温度参数调节
通过temperature控制生成随机性：
python复制def generate_with_temp(model, start_word, temp=1.0, length=50):
# ...前向传播...
logits = model(inputs, hidden)
# 应用温度系数
logits = logits / temp
probs = F.softmax(logits, dim=-1)
# 按概率采样
next_word = torch.multinomial(probs, 1)
# ...
5.2 束搜索算法
实现beam search提升连贯性：
python复制def beam_search(model, start_word, beam_width=3, max_len=50):
# 初始化束
beams = [([start_word], 0.0)]
for _ in range(max_len):
new_beams = []
for seq, score in beams:
# 获取最后一个词
last_word = seq[-1]
# 预测下一个词
outputs = model(last_word)
# 取top-k候选
topk_probs, topk_words = torch.topk(outputs, beam_width)
# 扩展新序列
for i in range(beam_width):
new_seq = seq + [topk_words[i].item()]
new_score = score + topk_probs[i].item()
new_beams.append((new_seq, new_score))
# 选择得分最高的beam_width个序列
beams = sorted(new_beams, key=lambda x: x[1], reverse=True)[:beam_width]
return beams[0][0]
5.3 押韵增强策略
中文歌词注重押韵，我们可以添加押韵奖励：
python复制def rhyme_reward(word, prev_rhyme):
# 简单押韵检测（末字相同）
if len(word) > 0 and len(prev_rhyme) > 0:
return 1.0 if word[-1] == prev_rhyme[-1] else 0.0
return 0.0
# 在生成时调整概率
logits += rhyme_reward(candidate, last_rhyme) * rhyme_weight
6. 实际应用与扩展
6.1 风格迁移应用
通过控制起始token实现风格切换：
python复制# 不同风格的特殊[token](https://taotoken.net?utm_source=ai)
STYLE_TOKENS = {
'jay': '[JAY]',
'rock': '[ROCK]',
'love': '[LOVE]'
}
# 生成时添加风格token
def generate_with_style(model, style, prompt):
start_seq = [STYLE_TOKENS[style], prompt]
return generate(model, start_seq)
6.2 多模态扩展
结合旋律生成完整歌曲：
- 使用MIDI工具包生成基础旋律
- 根据音符时长调整歌词音节
- 联合训练旋律-歌词匹配模型
6.3 在线学习系统
实现用户反馈闭环：
python复制class OnlineLearner:
def __init__(self, base_model):
self.model = base_model
self.optimizer = torch.optim.Adam(self.model.parameters(), lr=1e-4)
def update(self, user_feedback):
# 将用户评分转为损失
loss = self.compute_loss(user_feedback)
# 反向传播
self.optimizer.zero_grad()
loss.backward()
self.optimizer.step()
7. 常见问题与解决方案
7.1 重复生成问题
症状：模型不断重复相同短语
解决方法：
- 增加重复惩罚项
- 使用n-gram过滤
- 调整temperature参数
python复制def apply_repetition_penalty(logits, prev_tokens, penalty=1.2):
for token in set(prev_tokens[-4:]):
logits[token] /= penalty
return logits
7.2 上下文丢失问题
症状：生成内容偏离主题
解决方法：
- 增加上下文窗口大小
- 实现注意力机制
- 添加主题关键词引导
7.3 训练不收敛问题
可能原因及对策：
| 现象 | 可能原因 | 解决方案 |
|---|---|---|
| 损失波动大 | 学习率过高 | 减小LR或使用学习率调度 |
| 输出无意义词 | 词表过大 | 过滤低频词或使用子词切分 |
| 生成短句 | 梯度消失 | 使用LSTM/GRU或梯度裁剪 |
7.4 评估指标选择
常用歌词生成评估方法：
- 困惑度(Perplexity)：衡量语言模型质量
- 押韵密度：每行押韵字数比例
- 多样性得分：独特n-gram比例
- 人工评估：流畅性、创意性评分
python复制def calculate_diversity(generated_text, n=2):
tokens = generated_text.split()
ngrams = [tuple(tokens[i:i+n]) for i in range(len(tokens)-n+1)]
unique = set(ngrams)
return len(unique) / len(ngrams)
8. 部署与性能优化
8.1 模型量化加速
python复制# 训练后动态量化
quantized_model = torch.quantization.quantize_dynamic(
model, {nn.Linear}, dtype=torch.qint8)
8.2 ONNX格式导出
python复制torch.onnx.export(model,
dummy_input,
"lyrics_generator.onnx",
opset_version=11)
8.3 Flask API封装
基础Web服务实现：
python复制from flask import Flask, request, jsonify
app = Flask(__name__)
model = load_model()
@app.route('/generate', methods=['POST'])
def generate_api():
data = request.json
text = model.generate(data['prompt'],
length=data.get('length', 50))
return jsonify({'result': text})
8.4 移动端适配
使用TorchScript优化：
python复制scripted_model = torch.jit.script(model)
scripted_model.save("lyrics_mobile.pt")
在实际部署中发现，将模型从FP32转换为INT8后，推理速度提升2.3倍，而生成质量仅下降约5%。对于实时应用，这种权衡通常是值得的。