1. AI知识表示的三次范式跃迁
在人工智能领域,知识表示始终是核心挑战之一。过去十年间,我们经历了从向量表示到图结构,再到混合范式的技术演进。这种演变并非简单的替代关系,而是应对不同场景需求的必然选择。作为从业者,我亲历了从早期词向量到如今GraphRAG的完整技术周期,深刻体会到每种范式背后的设计哲学与适用边界。
向量表示如同给知识"拍照",将语义信息压缩成高维空间中的坐标点;图结构则是给知识"画地图",明确标注每个地标和连接路径;而混合架构则像配备智能导航仪的探险家,既能鸟瞰全局地形,又能精确规划到达目的地的每一步路线。这三种范式的更迭,本质上反映了AI系统从"感知语义"到"理解关系"再到"综合推理"的能力进化。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 向量表示时代:语义的数值化革命
2.1 向量嵌入的核心原理
向量表示的本质是将离散符号(如单词、句子)映射到连续向量空间。以"city boy born"为例,经过BERT等模型处理后会生成类似[0.12, -0.34, 0.56, ...]的768维向量。这个过程的数学本质是通过神经网络权重矩阵实现的非线性变换:
code复制h = σ(Wx + b)
其中W是训练得到的权重矩阵,x是输入词的one-hot向量,σ是非线性激活函数。这种表示的神奇之处在于,语义相似的词会在向量空间中自然聚类——"king"与"queen"的向量距离,近似于"man"与"woman"的距离。
2.2 典型实现方案对比
实践中主要存在三种嵌入方式:
- 静态词向量:Word2Vec、GloVe等早期技术
- 优点:训练成本低,轻量级
- 缺点:无法处理一词多义
- 上下文词向量:ELMo、BERT等模型
- 优点:动态编码上下文信息
- 缺点:计算资源消耗大
- 句子级向量:Instructor、Sentence-BERT
- 优点:保留完整语义信息
- 缺点:信息密度较低
实际选择建议:对话系统优先选用Sentence-BERT;搜索场景推荐ANCE或DPR;资源受限环境可考虑蒸馏后的MiniLM。
2.3 局限性深度分析
尽管向量表示在语义搜索中表现出色,但其存在三个根本缺陷:
- 关系模糊:无法显式表示"出生于"、"工作于
