我要投稿如果你有好的文章,欢迎分享给我们,我们会给与适当的补贴

DeepSeek本地安装部署

本文将指导您如何在本地运行 DeepSeek 模型,并通过 Chatbox 进行对话。以下是详细步骤:


1. 下载并安装 Ollama

  • 访问 Ollama 官网https://ollama.com
  • 下载适合您操作系统的版本
    • 如果无法访问官网,最好使用梯子来获取文件。
  • 安装 Ollama
    • 安装完成后,电脑右上角会显示一个小羊驼图标,表示 Ollama 已成功运行。

2. 下载并安装 DeepSeek 模型

  • 访问 Ollama 官网,在搜索框中输入 deepseek,找到 r1 版本
  • 选择适合您电脑的配置
    • 根据您的硬件配置(如显存、内存等),选择合适的模型版本。
  • 在终端中运行以下命令,下载并安装 DeepSeek 模型:
ollama run deepseek-r1:7b

安装完成后,您可以在本地使用 DeepSeek 的 AI 功能。


3. 下载并配置 Chatbox

  • 访问 Chatbox 官网https://chatboxai.app/zh
  • 下载并安装 Chatbox
  • 配置 Chatbox 连接 Ollama
    • 打开 Chatbox,进入设置。
    • 选择 Ollama 作为服务,并选择 deepseek-r1 模型。

4. 配置远程 Ollama 服务(可选)

如果您希望在其他设备上访问本地运行的 Ollama 服务,可以按照以下步骤配置远程访问:

在 MacOS 上配置

  1. 打开命令行终端,输入以下命令:
ollama host=0.0.0.0
ollama origins=*

重启 Ollama 应用,使配置生效。

在 Windows 上配置

  1. 通过任务栏退出 Ollama。
  2. 打开设置(Windows 11)或控制面板(Windows 10),搜索 环境变量
  3. 编辑或创建以下环境变量:
    • OLLAMA_HOST,值为 0.0.0.0
    • OLLAMA_ORIGINS,值为 *
  4. 保存设置并重新启动 Ollama。

在 Linux 上配置

  1. 打开终端,输入以下命令
OLLAMA_HOST=0.0.0.0
OLLAMA_ORIGINS=*
  1. 重启 Ollama 服务。

5. 删除 Ollama 模型(可选)

如果您需要删除已下载的模型,可以按照以下步骤操作:

  1. 查看已安装的模型:ollama list
  2. 删除指定模型:ollama rm <模型名称>
    • 例如,删除 deepseek-r1:7b 模型:ollama rm deepseek-r1:7b

总结

通过以上步骤,您可以在本地运行 DeepSeek 模型,并使用 Chatbox 进行对话。如果需要远程访问,可以通过配置 Ollama 的环境变量实现。希望本文对您有所帮助!

Tags:,

Add a Comment

Your email address will not be published. Required fields are marked *