基于ChatGLM3与LangChain的企业智能知识库构建实践

1. 项目背景与核心价值

去年在给某制造业客户做数字化转型咨询时，他们提出了一个典型需求：如何让分布在12个部门的3000多名员工快速获取最新版技术文档？传统方案要么是让IT部门手动更新文件服务器，要么是让员工在几十个PDF里用Ctrl+F大海捞针。这促使我开始探索基于大语言模型的企业知识管理新范式。

ChatGLM3-6B作为国产开源大模型的代表，配合LangChain的流程编排能力和Faiss的高效向量检索，恰好能构建一个"理解语义"的智能知识库。不同于传统关键词搜索，这套方案能实现：

• 自然语言提问（如"注塑机温度报警怎么处理？"）
• 跨文档关联答案（自动整合操作手册、故障案例、工艺标准）
• 实时引用溯源（标注答案出自哪份文档第几页）

2. 技术架构解析

2.1 核心组件选型对比

实测发现：当文档库超过500MB时，Milvus的分布式特性才显现优势，中小规模场景Faiss更轻量

2.2 关键流程设计

1. 文档预处理流水线：

   • PDF/Word解析：使用unstructured库处理扫描件中的表格
   • 文本分块：采用递归式分块策略，确保每个chunk包含完整段落（代码示例）：

     python复制from langchain.text_splitter import RecursiveCharacterTextSplitter
     splitter = RecursiveCharacterTextSplitter(
         chunk_size=800,
         chunk_overlap=100,
         separators=["\n\n", "。", "！", "？"]
     )
     

2. 向量化方案：

   • 嵌入模型选用bge-small-zh-v1.5，在MTEB中文榜排名前3
   • 对设备编号等专业术语添加自定义embedding（关键技巧）：

     python复制def enhance_embedding(text):
         if "注塑机" in text:
             return base_embedding + np.load('custom_embeddings/molding_machine.npy')
         return base_embedding
     

3. 工程实现细节

3.1 知识库冷启动优化

遇到的实际问题：新知识库上线前三个月准确率仅68%。通过分析发现：

• 问题1：工艺文档中大量"如图5所示"这类指代

• 解决方案：在预处理阶段插入图注文本：

  python复制def process_images(text):
      return re.sub(r'如图(\d+)所示', 
                  lambda m: f"{m.group(0)} [图片{m.group(1)}内容：{get_image_caption(m.group(1))}]",
                  text)
  

• 问题2：员工习惯用"二车间"但文档写"2号厂房"

• 解决方案：构建同义词扩展表，在查询时自动扩展：

  json复制{
    "二车间": ["2号厂房", "B区生产车间"],
    "老王": ["王师傅", "王工"]
  }
  

3.2 混合检索策略

单纯向量搜索在精确代码查询时效果差，采用混合方案：

1. 第一轮：Faiss返回top50向量结果
2. 第二轮：用BM25对原始文本做精排
3. 最终融合公式：

   code复制final_score = 0.7 * cosine_sim + 0.3 * bm25_score
   

实测显示该策略使代码片段检索准确率提升41%。

4. 生产环境部署要点

4.1 性能优化方案

在Dell R750xa服务器上的基准测试：

关键配置项：

yaml复制model_serving:
  quantization: "int8" 
  max_batch_size: 8
  faiss_index: "IVF1024_HNSW32"

4.2 安全防护设计

1. 权限控制：

   • 基于LDAP实现部门级数据隔离
   • 敏感文档设置水印：用户{ID}于{时间}查询

2. 内容过滤：

   • 在LLM输出层添加正则过滤：

     python复制def safety_check(text):
         patterns = [
             r"(?:直接|建议).*?(?:删除|清空|格式化)",
             r"root\s*密码"
         ]
         return not any(re.search(p, text) for p in patterns)
     

5. 效果评估与迭代

上线6个月后的关键指标：

持续优化方向：

1. 建立闭环反馈系统：员工可对答案做"👍/👎"评分
2. 动态更新机制：当某文档评分连续<3星时自动触发重新索引
3. 热点问题预警：统计高频查询生成知识图谱缺口报告