1. 从检索到理解的跨越:生成端优化的核心挑战
上周我们团队完成了检索系统的全面升级,准确率从75%提升到了90%。但很快发现一个关键问题:检索结果再准确,如果生成端无法有效理解和转化这些信息,用户体验依然糟糕。
举个例子,当用户查询"朝阳区三居室,地铁近,学区好"时:
- 检索系统完美返回了符合条件的房源
- 但LLM生成的回答却是:"根据您的需求,我们找到了以下房源:楼盘A、楼盘B、楼盘C"
这种回答存在四个致命缺陷:
- 没有解释推荐理由
- 没有对比不同房源的优劣势
- 没有突出用户最关心的"地铁"和"学区"因素
- 用户看完仍然无法决策
这揭示了生成端优化的三个核心挑战:
1.1 上下文理解障碍
LLM看到的是一堆原始数据而非结构化信息。就像给人类看Excel表格而不是分析报告,理解成本极高。我们的测试显示,直接使用检索结果的原始数据,LLM的准确率只有65%。
1.2 意图匹配缺失
不同用户对同一房源的需求角度完全不同:
- 投资者关注升值潜力
- 自住家庭重视学区质量
- 改善型用户看重社区品质
- 首购族关心性价比
使用同一套Prompt模板,无法满足这些差异化需求。
1.3 对话连续性断裂
房产决策是多轮对话过程,但传统系统每轮对话都是独立事件。用户需要反复重复需求,系统无法理解"这些楼盘"、"改主意了"等上下文指代。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 上下文工程:让LLM真正"看懂"数据
2.1 结构化上下文设计
我们摒弃了直接拼接检索结果的原始做法,转而构建包含多层信息的结构化上下文:
python复制# 旧方法(问题)
context = str(houses_df) # 原始数据拼接
# 新方法(解决方案)
context = """
【用户需求分析】
- 区域:朝阳区(核心商务区,升值潜力大)
- 价格:500万左右(中等价位,选择多)
- 户型:三居(家庭刚需)
- 关键需求:
✓ 地铁近(通勤便利)
✓ 学区好(子女教育)
【推荐楼盘对比】
1️⃣ 楼盘A(朝阳区建国路)
价格:480-520万 ✓ 符合预算
地铁:5分钟步行 ✓✓ 非常近
学区:小学85分,中学88分 ✓✓ 优质学区
亮点:新房、精装修、物业评分4.8/5
适合:看重地铁和学区的用户
2️⃣ 楼盘B(朝阳区朝阳门)
价格:500-550万 ✓ 符合预算
地铁:8分钟步行 ✓ 较近
学区:小学82分,中学85分 ✓ 良好学区
亮点:现房、可贷款、社区成熟
适合:看重社区成熟度的用户
【对比分析】
- 地铁便利性:楼盘A > 楼盘B(差3分钟)
- 学区质量:楼盘A > 楼盘B(差3-5分)
- 价格:楼盘A更便宜(便宜20-30万)
- 推荐指数:楼盘A更符合您的需求
"""
这种结构化设计使LLM理解效率提升35%,关键技巧包括:
- 使用Markdown分层展示信息
- 添加符号(✓)和表情突出关键点
- 明确标注数据间的对比关系
- 提供适合人群分析
