基于GRU神经网络的英文诗歌生成系统开发实践-AI智能范式网

基于GRU神经网络的英文诗歌生成系统开发实践

遮弧酒邪·2026-08-22·阅读 22 GEO检测（免费）

GRU神经网络诗歌生成系统文本生成

|难度：普通|阅读约 14 分钟

1. 项目概述

作为一名长期从事AI项目开发的工程师，我最近完成了一个基于GRU神经网络的英文诗歌生成系统。这个项目将深度学习技术与文学创作相结合，为诗歌爱好者提供了一个有趣的创作工具。不同于传统的规则式诗歌生成方法，我们采用了数据驱动的方式，让模型从大量优秀诗歌中学习创作规律。

这个系统的核心是一个经过精心训练的GRU神经网络模型。GRU（Gated Recurrent Unit）是循环神经网络(RNN)的一种变体，在处理序列数据方面表现出色，特别适合文本生成任务。相比传统的RNN，GRU通过引入更新门和重置门机制，有效缓解了梯度消失问题，能够更好地捕捉长距离依赖关系。

提示：GRU相比LSTM结构更简单，参数更少，在诗歌生成这类中等长度文本任务中往往能取得不错的效果，同时训练速度更快。

需要模型API调用？免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。

2. 系统架构设计

2.1 技术栈选型

在开发这个系统时，我选择了以下技术组合：

后端框架：Spring Boot 2.7 + MyBatis Plus
前端框架：Vue 3 + Element Plus
数据库：MySQL 8.0
深度学习框架：TensorFlow 2.8

选择这套技术栈主要基于以下考虑：

Spring Boot提供了快速开发企业级应用的能力，自动配置和起步依赖大大简化了项目搭建过程
Vue 3的响应式特性和组合式API让前端开发更加高效
MyBatis Plus在MyBatis基础上增强了CRUD操作，减少了大量模板代码
TensorFlow 2.x的Keras API对循环神经网络提供了良好支持，便于模型开发和调试

2.2 系统架构模式

系统采用经典的MVC架构模式，分为以下几层：

表现层：Vue构建的前端界面，负责用户交互和诗歌展示
业务逻辑层：Spring Boot实现的后端服务，处理业务规则和模型调用
数据访问层：MyBatis Plus操作的MySQL数据库，存储用户数据和生成的诗歌
模型服务层：TensorFlow实现的GRU模型，提供诗歌生成能力

这种分层架构使得系统各组件职责明确，便于维护和扩展。特别是将模型服务单独分层，为将来替换或升级模型提供了便利。

3. 核心功能实现

3.1 诗歌生成模型设计

3.1.1 GRU网络结构

我们构建的GRU模型包含以下关键组件：

嵌入层(Embedding Layer)：将单词转换为稠密向量表示
- 词汇表大小：10,000
- 嵌入维度：256
- 使用预训练的GloVe词向量初始化
GRU层：核心序列处理单元
- 隐藏单元数：512
- 层数：2层
- dropout率：0.3（防止过拟合）
全连接层：输出概率分布
- 使用softmax激活函数
- 输出维度与词汇表大小相同

python复制model = tf.keras.Sequential([
    tf.keras.layers.Embedding(vocab_size, 256),
    tf.keras.layers.GRU(512, return_sequences=True),
    tf.keras.layers.Dropout(0.3),
    tf.keras.layers.GRU(512),
    tf.keras.layers.Dropout(0.3),
    tf.keras.layers.Dense(vocab_size, activation='softmax')
])

3.1.2 训练过程

我们使用了以下训练配置：

数据集：Gutenberg诗歌数据集（50,000+首英文诗歌）
批量大小：64
优化器：Adam（学习率0.001）
损失函数：稀疏分类交叉熵
训练轮次：30
使用早停法防止过拟合

训练过程中，我们观察到验证损失在第25轮左右开始趋于平稳，最终模型在测试集上达到了42%的准确率（top-1）和68%的准确率（top-5）。

注意：诗歌生成属于创造性任务，不宜单纯追求准确率指标。我们更关注生成诗歌的流畅性、创意性和风格一致性。

3.2 文本生成策略

3.2.1 温度采样

在生成诗歌时，我们采用温度采样(temperature sampling)策略来控制生成文本的多样性：

python复制def sample_with_temperature(preds, temperature=1.0):
    preds = np.asarray(preds).astype('float64')
    preds = np.log(preds) / temperature
    exp_preds = np.exp(preds)
    preds = exp_preds / np.sum(exp_preds)
    probas = np.random.multinomial(1, preds, 1)
    return np.argmax(probas)

温度参数的作用：

温度=1.0：使用原始概率分布
温度>1.0：平滑分布，增加多样性
温度<1.0：锐化分布，减少随机性

通过调整温度参数，用户可以在"保守"和"创新"之间找到平衡点。

3.2.2 束搜索(Beam Search)

对于需要更连贯的长文本生成，我们实现了束搜索算法：

维护一个大小为k的候选序列集合（束宽）
在每个时间步，扩展所有候选序列
保留概率最高的k个新序列
重复直到生成结束标记或达到最大长度

束搜索能在一定程度上提高生成质量，但会牺牲一定的多样性。我们默认使用k=3的束宽，用户可以根据需要调整。

4. 系统功能模块

4.1 用户管理模块

系统提供了完整的用户注册、登录和个人信息管理功能：

注册流程：
1. 前端验证表单数据
2. 后端校验用户名唯一性
3. 密码使用BCrypt加密存储
4. 生成JWT令牌返回客户端
登录流程：
1. 验证用户名和密码
2. 生成JWT令牌（有效期7天）
3. 记录登录日志
4. 返回用户基本信息和权限

安全提示：务必使用HTTPS传输敏感信息，防止中间人攻击。存储密码时要加盐哈希，切勿明文存储。

4.2 诗歌生成模块

核心功能包括：

基础生成：
- 输入：可选的主题关键词、诗歌长度
- 处理：将输入编码后送入GRU模型
- 输出：生成的诗歌文本
风格控制：
- 可选择不同诗人风格（莎士比亚、济慈等）
- 实现方式：在训练数据中添加风格标签，使用条件GRU模型
交互式生成：
- 用户可编辑中间结果，继续生成
- 实现"重写某一行"功能

4.3 作品管理模块

用户可以：

保存生成的诗歌
添加标签和注释
分享到社区
查看生成历史

数据库设计关键表：

sql复制CREATE TABLE poems (
    id BIGINT PRIMARY KEY AUTO_INCREMENT,
    user_id BIGINT NOT NULL,
    title VARCHAR(100),
    content TEXT NOT NULL,
    style VARCHAR(50),
    created_at DATETIME DEFAULT CURRENT_TIMESTAMP,
    FOREIGN KEY (user_id) REFERENCES users(id)
);

CREATE TABLE poem_tags (
    poem_id BIGINT,
    tag VARCHAR(50),
    PRIMARY KEY (poem_id, tag),
    FOREIGN KEY (poem_id) REFERENCES poems(id)
);

5. 部署与优化

5.1 模型服务化

将训练好的GRU模型部署为RESTful服务：

使用TensorFlow Serving加载模型
创建gRPC/HTTP接口
添加缓存层（Redis）缓存常见查询
实现批量预测以提高吞吐量

5.2 性能优化

针对诗歌生成延迟问题，我们采取了以下优化措施：

模型量化：将FP32模型转换为INT8，减少75%内存占用
图优化：使用TensorFlow图模式代替eager模式
前端节流：限制用户频繁请求
预生成缓存：对热门关键词预生成结果

优化前后对比：

指标	优化前	优化后
平均响应时间	1200ms	350ms
最大QPS	15	50
内存占用	2.1GB	0.5GB

5.3 监控与日志

建立完善的监控体系：

应用监控：Prometheus + Grafana
- 跟踪QPS、延迟、错误率
- 设置报警阈值
业务监控：
- 每日生成诗歌数量
- 用户活跃度
- 热门风格统计
日志收集：ELK Stack
- 记录完整请求链路
- 错误日志分类统计

6. 常见问题与解决方案

6.1 生成诗歌重复性问题

问题现象：模型有时会陷入循环，重复生成相同片段

解决方案：

增加n-gram惩罚，抑制重复短语
动态调整温度参数
后处理过滤明显重复内容

实现代码示例：

python复制def prevent_repetition(logits, history, penalty=0.5):
    for token in set(history[-4:]):  # 查看最近4个token
        logits[token] -= penalty
    return logits

6.2 生僻词问题

问题现象：偶尔生成非常见词汇，影响可读性