1. 从Demo到生产:RAG系统的五级演进实战
去年我在金融行业部署RAG系统时,曾遇到一个典型案例:用户查询"信用卡逾期处理政策",系统却返回了"员工考勤管理制度"的内容。这种看似荒谬的结果,恰恰暴露了基础RAG系统的核心缺陷——语义相似度不等于业务相关性。本文将分享如何通过五个关键层级,将RAG系统从玩具级的Demo转变为真正可用的生产系统。
1.1 基础RAG的致命缺陷
标准RAG流程看似简单:文档embedding→向量检索→LLM生成。用Python实现不到50行代码:
python复制from openai import OpenAI
import chromadb
client = OpenAI()
chroma = chromadb.Client()
collection = chroma.create_collection("docs")
def naive_rag(query: str, k: int = 3) -> str:
# Embedding查询
query_embedding = client.embeddings.create(
model="text-embedding-3-small",
input=query
).data[0].embedding
# 向量检索
results = collection.query(
query_embeddings=[query_embedding],
n_results=k
)
# LLM生成
context = "\n\n".join(results["documents"][0])
response = client.chat.completions.create(
model="gpt-4",
messages=[
{"role": "system", "content": f"基于以下上下文回答:\n\n{context}"},
{"role": "user", "content": query}
]
