Skip to content

本地部署 deepseek-r1

使用 Ollama 快速部署 deepseek-r1 到本地

下载 Ollama

官方下载地址 https://ollama.com/download

下载对应的大模型,最热门的就是 deepseek-r1

https://ollama.com/library/deepseek-r1

安装

安装 Ollama 后,选择对应的模型,版本分别有 1.5b/7b/8b/14b/32b/70b/671b

本地安装,需要根据电脑配置选择对应版本,16G 内存选择 8b 以下

打开终端,验证 ollama 已成功安装

sh
ollama -v

我本地安装后显示版本

ollama version is 0.5.10

确认安装完成后,可启动对应版本模型,如 1.5b 版本,如本地未下载,会自动下载

sh
ollama run deepseek-r1:1.5b

1.5b 版本大小为 1.1GB,下载完成后,会进入聊天模式

sh
>>> Send a message (/? for help)

此时和直接和它聊天,但大模型不支持联网,无法获取实时信息,且不太聪明,只能说能用。

ollama 常用命令

  • run xxx 运行模型 xxx
  • list 展示所有模型
  • ps 展示资源占用
  • show xxx 查看模型 xxx 信息
  • rm xxx 删除模型 xxx

接入可视化界面

Chatbox AI https://chatboxai.app/zh

直接下载安装包,经过简单配置就可以和本地的 deepseek 开始聊天。

需要先本地运行 ollama 和对应模型

设置

Released under the MIT License.