DeepSeek本地安装部署
|本文将指导您如何在本地运行 DeepSeek 模型,并通过 Chatbox 进行对话。以下是详细步骤:
1. 下载并安装 Ollama
- 访问 Ollama 官网:https://ollama.com。
- 下载适合您操作系统的版本:
- 如果无法访问官网,最好使用梯子来获取文件。
- 安装 Ollama:
- 安装完成后,电脑右上角会显示一个小羊驼图标,表示 Ollama 已成功运行。
2. 下载并安装 DeepSeek 模型
- 访问 Ollama 官网,在搜索框中输入 deepseek,找到 r1 版本。
- 选择适合您电脑的配置:
- 根据您的硬件配置(如显存、内存等),选择合适的模型版本。
- 在终端中运行以下命令,下载并安装 DeepSeek 模型:
ollama run deepseek-r1:7b
安装完成后,您可以在本地使用 DeepSeek 的 AI 功能。
3. 下载并配置 Chatbox
- 访问 Chatbox 官网:https://chatboxai.app/zh。
- 下载并安装 Chatbox。
- 配置 Chatbox 连接 Ollama:
- 打开 Chatbox,进入设置。
- 选择 Ollama 作为服务,并选择 deepseek-r1 模型。
4. 配置远程 Ollama 服务(可选)
如果您希望在其他设备上访问本地运行的 Ollama 服务,可以按照以下步骤配置远程访问:
在 MacOS 上配置
- 打开命令行终端,输入以下命令:
ollama host=0.0.0.0
ollama origins=*
重启 Ollama 应用,使配置生效。
在 Windows 上配置
- 通过任务栏退出 Ollama。
- 打开设置(Windows 11)或控制面板(Windows 10),搜索 环境变量。
- 编辑或创建以下环境变量:
OLLAMA_HOST
,值为0.0.0.0
。OLLAMA_ORIGINS
,值为*
。
- 保存设置并重新启动 Ollama。
在 Linux 上配置
- 打开终端,输入以下命令
OLLAMA_HOST=0.0.0.0
OLLAMA_ORIGINS=*
- 重启 Ollama 服务。
5. 删除 Ollama 模型(可选)
如果您需要删除已下载的模型,可以按照以下步骤操作:
- 查看已安装的模型:ollama list
- 删除指定模型:ollama rm <模型名称>
- 例如,删除
deepseek-r1:7b
模型:ollama rm deepseek-r1:7b
- 例如,删除
总结
通过以上步骤,您可以在本地运行 DeepSeek 模型,并使用 Chatbox 进行对话。如果需要远程访问,可以通过配置 Ollama 的环境变量实现。希望本文对您有所帮助!