如何部署DeepSeel r1 模型

Posted onAuthorcnliutz

以 Windows 系统为例，DeepSeek 单机部署一般有以下步骤6：

下载 Ollama

  1. 访问 Ollama 官网https://ollama.com。
  2. 点击 “Download” 按钮，根据提示下载适合 Windows 系统的版本。
  3. 下载完成后，点击安装程序，全程点击 “下一步” 或 “Install” 等按钮完成安装。安装结束后，系统托盘图标处会出现一个常驻的 Ollama 标志。

安装 DeepSeek-R1 模型

  1. 打开 Ollama 官网，点击左上角的 “Models” 按钮。
  2. 在搜索框中输入 “deepseek”，找到 “deepseek-r1” 模型。
  3. 根据自己的电脑配置选择合适的模型版本，如办公本可选 7B，游戏本可选 8B，工作站可选 14B 及以上版本。
  4. 点击模型右侧的按钮复制指令，如 “ollama run deepseek-r1:8b”。
  5. 在 Windows 搜索栏输入 “cmd” 并回车，调出命令行窗口，粘贴刚才复制的命令并回车，开始下载模型。

搭建用户界面
以下是使用 Chatbox 链接配置好的 DeepSeek R1 的步骤：
1. 安装 Ollama：访问Ollama 官网，根据你的操作系统（Windows、Mac 或 Linux）下载并安装 Ollama。安装完成后，打开终端或命令提示符，输入ollama验证是否安装成功。
2. 拉取并运行 DeepSeek R1 模型：在终端或命令提示符中，根据你的硬件配置和需求，选择合适的 DeepSeek R1 模型版本运行。如运行ollama run deepseek-r1:1.5b（1.5b 版本）、ollama run deepseek-r1:8b（8b 版本）等。
3. 安装 Chatbox：访问Chatbox 官网，下载并安装 Chatbox。
4. 配置 Chatbox：打开 Chatbox，进入设置界面。
将模型提供商切换为 Ollama，
设置 API 主机为http://127.0.0.1:11434，
选择 DeepSeek R1 模型，然后点击保存。

此外，若想使用语音功能等更丰富的交互，还可以安装 Open WebUI 开源工具。若在安装过程中出现问题，可参考相关工具的官方文档或社区论坛寻求帮助。

部署DeepSeek单机版对电脑的硬件有哪些要求？

部署 DeepSeek 单机版对电脑的硬件要求因模型版本不同而有所差异，以 DeepSeek-V3 和 DeepSeek-R1 为例，具体要求如下：

  • DeepSeek-V3
    • GPU：
      • 最低：NVIDIA A100（80GB）用于 FP8/BF16 精度。
      • 推荐：NVIDIA H800 GPUs 用于分布式、多节点设置，也可选择支持 FP8/BF16 的 AMD GPUs 或支持 BF16 精度的华为 Ascend NPUs。
    • CPU：需要现代的多核处理器来处理预处理和后处理任务。
    • 内存：
      • 最低：64GB RAM。
      • 推荐：128GB RAM 或更多用于多 GPU 设置。
    • 存储：至少 1TB SSD 或 NVME 存储，用于存储模型权重和数据。
  • DeepSeek-R1
    • 1.5B 模型：
      • 内存：4GB RAM。
      • 显卡：集成显卡，如 GTX 1050。
    • 7B 模型：
      • 内存：8GB RAM。
      • 显卡：独立显卡，如 GTX 1660。
    • 14B 模型：
      • 内存：16GB RAM。
      • 显卡：高性能显卡，如 RTX 3090。

部署DeepSeek单机版对电脑操作系统有哪些要求？

部署DeepSeek单机版的具体步骤是什么？

部署DeepSeek单机版失败可能是什么原因导致的？