1. 项目概述:当大语言模型遇上创造力评估
去年在调试Stable Diffusion提示词时,我发现一个有趣现象:同样的"赛博朋克少女"主题,不同用户写出的提示词在创意维度上差异显著。这让我开始思考——大语言模型(LLM)的创造力输出是否也存在类似特征?能否通过系统化的提示词变更实验,建立可量化的评估体系?
这个探索性实验的核心目标,是开发一套基于提示词工程(Prompt Engineering)的LLM创造力度量框架。我们通过控制变量法设计多组对照实验,记录模型在不同提示策略下的响应差异,最终构建包含流畅性、原创性、关联性等维度的评估矩阵。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 实验设计方法论
2.1 基础实验架构
实验采用三阶测试框架:
- 基准测试:使用标准提示模板(如"请创作一个关于太空探险的短故事")
- 约束测试:添加特定限制(如"不得使用超过10个句子")
- 激发测试:引入创意激发元素(如"假设你是19世纪的科幻作家")
python复制# 实验配置示例
experiment_params = {
"base_prompt": "写一首关于秋天的诗",
"constraints": ["押七言绝句格式", "包含'落叶'意象"],
"stimulus": ["采用李白风格", "融入量子物理隐喻"]
}
2.2 关键评估维度
我们设计了一套包含主客观指标的评估体系:
| 维度 | 量化方法 | 权重 |
|---|---|---|
| 语义丰富度 | 名词短语密度/比喻句占比 | 30% |
| 结构创新性 | 段落转折次数/非典型叙事结构 | 25% |
| 概念跳跃度 | 主题关联词余弦距离 | 20% |
| 文化融合度 | 跨领域术语出现频率 | 15% |
| 情感感染力 | 情感分析API输出值 | 10% |
提示:实际操作中发现,GPT-4
