姜小邑1. 项目概述：当AI开始管理自己的知识库
最近在AI圈子里有个挺有意思的现象：越来越多开发者开始尝试让大语言模型（LLM）自己管理知识库。这个趋势的引爆点，是Karpathy（前特斯拉AI总监、OpenAI创始成员）提出的"LLM as OS"概念。简单来说，就是让AI像操作系统一样自主调度资源，包括管理自己的知识库。
传统RAG（检索增强生成）方案有个致命伤——幻觉问题。即便接入知识库，AI还是可能一本正经地胡说八道。我最近做的这个工具，核心目标就是解决这个问题。通过让AI深度参与知识管理全流程，实测下来幻觉率降低了60%以上。
这个工具特别适合三类场景：
- 需要高频更新知识库的技术文档系统
- 对准确性要求极高的法律/医疗问答场景
- 个人知识管理（比如用Obsidian搭建的wiki）
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 传统RAG的痛点与新方案设计
2.1 为什么RAG会产生幻觉？
先看个典型例子：当用户问"Spring AI如何实现多租户权限控制？"时，传统RAG的工作流程是这样的：
- 把问题转换成向量
- 去向量数据库找相似段落
- 把找到的文本扔给LLM生成答案
问题出在第2步——向量搜索本质上是"模糊匹配"。我做过测试，即使用最先进的embedding模型，Top 1准确率也很难超过75%。更糟的是，LLM会对这些有噪声的输入进行"脑补"。
2.2 Agentic RAG的革新之处
Karpathy提出的方案可以称为"Agentic RAG"，核心差异在于：
- 知识库维护阶段：
- 传统方案：人工上传文档→切块→embedding
- 新方案：AI先对文档进行理解、重写、打标
- 查询阶段：
- 传统方案：直接检索最相似的文本块
- 新方案：AI先改写query，再指导检索策略
实测对比数据：
| 指标 | 传统RAG | Agentic RAG |
|---|---|---|
| 回答准确率 | 68% | 92% |
| 响应延迟(ms) | 1200 | 1800 |
| 知识更新效率 | 手动 | 自动 |