小丹尼DannyData1. 项目概述
最近在尝试用C#调用本地部署的deepseek-r1:1.5b模型时，发现不少开发者遇到了模型加载失败的问题。作为一个长期在.NET生态中工作的开发者，我决定分享一下如何用.NET 9.0稳定运行这个1.5B参数的开源语言模型。
deepseek-r1是当前开源社区中性能相当不错的语言模型之一，1.5B版本在保持较小体积的同时，展现了不错的文本理解和生成能力。本文将详细介绍从环境准备到实际调用的完整流程，特别针对移动端开发者关注的"手机加载不起来"问题给出解决方案。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 环境准备与依赖安装
2.1 硬件与系统要求
要流畅运行1.5B参数的模型，建议配置：
- CPU: 至少4核处理器（推荐Intel i7或同等性能）
- 内存: 16GB以上（32GB为佳）
- 存储: 需要约6GB空间存放模型文件
- 操作系统: Windows 10/11或Linux（需GLIBC 2.27+）
对于移动设备，由于内存限制，直接加载完整模型确实困难。后文会介绍量化版本的使用方案。
2.2 .NET 9.0环境配置
首先安装.NET 9.0 SDK：
bash复制winget install Microsoft.DotNet.SDK.9
验证安装：
csharp复制dotnet --version
// 应输出9.0.x
2.3 必要NuGet包
创建新控制台项目后，添加以下包：
bash复制dotnet add package Microsoft.ML.OnnxRuntime
dotnet add package SharpToken
OnnxRuntime用于模型推理，SharpToken处理tokenization。这两个包是核心依赖。
3. 模型获取与处理
3.1 下载模型文件
从HuggingFace获取模型：
bash复制git lfs install
git clone https://huggingface.co/deepseek-ai/deepseek-r1-1.5b
原始模型约5.8GB。如果网络环境受限，可以只下载onnx格式的模型文件：
- model.onnx (主模型)
- tokenizer.json (分词器)
3.2 模型量化（移动端方案）
针对手机设备，建议使用4-bit量化版本：
python复制# 使用auto_gptq量化
from transformers import AutoModelForCausalLM
model = AutoModelForCausalLM.from_pretrained("deepseek-r1-1.5b")
model.quantize(bits=4)
model.save_pretrained("deepseek-r1-1.5b-4bit")
量化后模型大小降至约2GB，内存占用减少60%，更适合移动设备。