1. 本地AI模型开发环境搭建
在开始使用Ollama本地语言模型之前,我们需要先搭建完整的开发环境。作为一名长期从事AI开发的工程师,我强烈建议采用虚拟环境来管理项目依赖,这能有效避免不同项目间的包冲突问题。
1.1 Python环境配置
首先确保你的系统已安装Python 3.8或更高版本。我推荐使用conda或venv创建独立环境:
bash复制# 使用conda创建环境(推荐)
conda create -n ollama_env python=3.10
conda activate ollama_env
# 或者使用venv
python -m venv ollama_env
source ollama_env/bin/activate # Linux/Mac
ollama_env\Scripts\activate # Windows
注意:不同操作系统下的命令略有差异,Windows用户需要使用反斜杠和.bat文件
1.2 Ollama本体安装
Ollama提供了跨平台的安装包,根据你的操作系统选择对应版本:
- Windows:直接下载.exe安装程序
- macOS:使用Homebrew安装
brew install ollama - Linux:执行安装脚本
curl -fsSL https://ollama.com/install.sh | sh
安装完成后,在终端运行 ollama --version 确认安装成功。我建议将Ollama设置为开机自启动服务,这样模型可以随时待命:
bash复制ollama serve # 启动服务
1.3 模型下载与管理
Ollama支持多种开源模型,我们可以使用命令行工具下载所需模型。以deepseek-r1:8b模型为例:
bash复制ollama pull deepseek-r1:8b
下载完成后,可以通过以下命令查看已安装模型:
bash复制ollama list
实操心得:模型下载速度取决于你的网络环境。国内用户可能会遇到下载缓慢的问题,建议在网络条件良好的时段进行操作,或者配置合适的镜像源。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. LangChain-Ollama集成方案
2.1 安装LangChain-Ollama库
LangChain社区提供了专门的Ollama集成包,使用pip即可安装:
bash复制pip install langchain-ollama
这个包会自动安装其依赖项,包括:
- langchain-core (≥0.1.0)
- ollama (≥0.1.0)
- httpx (用于HTTP请求)
2.2 基础模型调用
安
