Windows使用LM Studio部署DeepSeek R1模型

# 文档说明
以日常学习工作使用来说，使用[现成的AI产品](https://wiki.bafangwy.com/doc/231/ "现成的AI产品")完全够用了。本地部署AI非常消耗资源，而且性能远远比不上官方的网站。

本文档主要用于体验模型部署。

# 推荐电脑配置
## 操作系统
Windows版本必须是Win10或者Win11。

## 最低配置
CPU：8核处理器（如AMD Ryzen 7或Intel i7）。
内存：16GB RAM。
显卡：至少8GB显存的显卡（如NVIDIA RTX 3060或AMD RX 6600）。
存储空间：至少50GB的硬盘空间。

## 推荐配置
CPU：8核或更高性能的处理器（如AMD Ryzen 7或Intel i7）。
内存：16GB RAM或更高。
显卡：12GB显存的显卡（如NVIDIA RTX 3060或AMD RX 6700）。
存储空间：至少100GB的NVMe SSD。

# 概要介绍
在本地部署AI系统，需要模型部署工具和模型数据（可以理解为规则集）。

模型部署工具主要包括：
- 如果你希望快速部署和管理本地模型，Ollama（命令行）和LM Studio（UI界面）是不错的选择。
- 如果你需要构建复杂的AI应用，AnythingLLM和Dify可能更适合。
- 如果你更注重客户端体验，Cherry Studio和OpenWebUI提供了丰富的功能和友好的界面。

常见的模型：
- Qwen-7B-Math-Instruct（阿里巴巴）
- DeepSeek R1（深度求索）
- Kimi K1.5（月之暗面）
- GLM-Zero（智谱团队）
- DRT-o1（微信团队）

# 安装步骤
这里我们以LM Studio为例进行安装。
打开官网：https://lmstudio.ai/

![](/media/202502/2025-02-19_141058_6382270.33595351533859474.jpeg)

如果电脑只有一个用户，没区别。如果电脑有多个用户，根据情况选择。

![](/media/202502/2025-02-19_141145_3003280.018734149393530686.png)

选择安装路径，工具可以安装在C盘，需要的空间不大。
模型可以放在其他磁盘。

![](/media/202502/2025-02-19_141303_1379790.7090349391740143.png)

点完成，启动LM Studio

![](/media/202502/2025-02-19_141438_0096820.6269632795236098.png)

启动界面，跳过

![](/media/202502/2025-02-19_141614_3730580.022891171096066643.png)

右下角齿轮设置图标

![](/media/202502/2025-02-19_141738_1944460.43586344989738257.png)

Language选择“简体中文”

![](/media/202502/2025-02-19_141758_6121600.43102043131966805.png)

为避免网络问题，需要将默认的模型下载源更换为国内可访问的Hugging Face镜像
(也可以在网站离线下载：https://huggingface.co 、 https://www.modelscope.cn/models)
![](/media/202502/2025-02-19_141954_0322360.7199194464408802.png)

关闭设置窗口

![](/media/202502/2025-02-19_141840_9956570.24442364699294394.png)

修改模型目录，选择一个剩余空间更多的磁盘，可以创建一个models文件夹专门放模型

![](/media/202502/2025-02-19_142045_9835690.5284410230922506.png)

搜索模型`DeepSeek R1`

![](/media/202502/2025-02-19_142313_9504790.7937311559094674.png)

点 Search more

![](/media/202502/2025-02-19_142347_7720550.3538647180608644.png)

- DeepSeek-R1-Distill-Qwen-7B 是性价比最高的蒸馏版本，适合大多数生产场景，资源需求低且推理速度快。
- DeepSeek-R1-Distill-Qwen-32B 性能最强，适合对推理精度要求较高的场景。
如果对资源需求敏感，DeepSeek-R1-Distill-Qwen-1.5B 是一个不错的选择。
- 对于需要处理复杂任务的场景，DeepSeek-R1-Distill-Qwen-14B 或 DeepSeek-R1-Distill-Llama-70B 更为合适。

![](/media/202502/2025-02-19_143124_9099620.525202380316199.png)

等待模型下载完毕。

![](/media/202502/2025-02-19_143948_5955230.5975206097388202.png)

如果网络出问题，点刷新的图标继续下载（有可能会中断多次，盯着点）。

![](/media/202502/2025-02-19_144253_0468470.8327650828489391.png)

下载完成，加载模型：

![](/media/202502/2025-02-19_145616_7410520.9852819550634521.png)

开始对话：

![](/media/202502/2025-02-19_145923_0429750.0371655045312691.png)

可以看到，思考过程花了100多秒，还没算后面的输出时间，效率比网页版低很多。

# 其他推荐开源模型
搜索 secgpt（网络安全开源大模型），下载secgpt-mini

![](/media/202502/2025-02-20_100614_4602060.8206330457188743.png)

# 代码调用API
python调用LM Studio（AI）本地API
https://wiki.bafangwy.com/doc/806/