1. 项目背景与核心挑战
春节前夕接到一个看似简单却暗藏玄机的需求:开发一个能生成"走心"拜年文案的AI工具。最初以为只是调用现成API就能搞定,但第一版Demo就遭遇滑铁卢——模型生成的祝福语虽然语法正确、用词华丽,却总透着一股"电子挽联"的冰冷感。
核心问题在于:传统大模型擅长的是"正确表达",而非"恰当表达"。它能完美遵循语法规则,却无法把握人际交往中微妙的语气分寸。比如给领导拜年时过度使用敬语反而显得生疏,给好友的祝福太过正式会被当成群发,而给前任的问候稍有不慎就会引发灾难。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 模型选型:为什么我们主动削弱了Qwen3
2.1 候选模型对比测试
我们对比了三款主流开源模型:
- Llama-3-8B:轻量高效,推理速度快(<2s),但中文创意表达薄弱,无法处理"马年"与"Transformer"的双关梗
- Qwen2.5-32B:中文理解优秀,生成稳定,但过于保守,输出像老干部发言稿
- Qwen3-32B:最新发布,支持Chain-of-Thought(CoT)深度思考
2.2 反直觉的决策:禁用CoT机制
Qwen3的CoT功能在大多数场景是优势,但在祝福生成场景却成为负担:
- 延迟问题:生成前会进行多轮"内心戏"推演,平均响应时间从3s飙升至8s+
- 内容泄露:思考过程会混入最终输出,如出现"基于您与收件人的上下级关系..."等破坏语境的说明
- 过度理性:祝福语需要的是情感共鸣而非逻辑严谨
最终方案:保留Qwen3强大的中文基底,但通过以下方式禁用CoT:
python复制# 推理时关闭CoT的配置示例
generation_config = {
"do_sample": True,
"max_new_tokens": 100,
"temperature": 0.7,
"repetition_penalty": 1.1,
"use_cohere": False # 关键参数
}
3. 数据工程:如何教会AI"人情世故"
3.1 传统数据集的局限性
现成的祝福语数据集存在三大缺陷:
- 样本同质化严重(90%是"新年快乐+成语堆砌")
- 缺乏真实人际互动中的"毛边感"
