如何在群晖NAS上通过Docker部署DeepSeek V4模型？
- 内容介绍
- 文章标签
- 相关推荐
本文共计937个文字，预计阅读时间需要4分钟。
如果您想在群晖NAS上运行DeepSeek+V4模型，但发现无法加载模型或推理失败，可能是由于模型文件未正确挂载至Ollama服务指定路径。以下是解决此问题的步骤：
一、确认DeepSeek V4镜像与模型兼容性
Ollama官方尚未正式发布对DeepSeek V4的原生支持，当前需依赖社区构建的适配镜像或手动导入GGUF格式模型文件。挂载前必须确保所用Ollama版本≥0.5.10，且模型文件命名与Ollama识别规则一致（如deepseek-v4:q4_k_m）。
1、登录群晖DSM，启用SSH服务（控制面板→终端机和SNMP→启用SSH）。
2、通过SSH连接NAS，执行docker exec -it ollama ollama list检查当前已加载模型列表。
3、若未显示DeepSeek V4相关条目，说明模型尚未被Ollama识别，需进入挂载路径验证文件完整性。
二、创建专用模型存储卷并挂载至Ollama容器
Ollama默认从/root/.ollama/models读取模型，但群晖Docker GUI不支持直接映射该路径；必须使用宿主机绝对路径（如/volume1/docker/ollama/models）并通过bind mount方式挂载，确保容器内路径与宿主机路径严格对应。
1、在SSH中执行sudo mkdir -p /volume1/docker/ollama/models创建持久化目录。
2、将DeepSeek V4的GGUF模型文件（例如deepseek-v4.Q4_K_M.gguf）上传至该目录。
3、修改文件权限：sudo chown -R 65532:65532 /volume1/docker/ollama/models（Ollama容器默认以UID 65532运行）。
4、在Docker GUI中编辑Ollama容器设置，在「卷」选项卡添加新映射：宿主机路径填/volume1/docker/ollama/models，装载路径填/root/.ollama/models，权限设为“读写”。
三、通过ollama run命令手动注册DeepSeek V4模型
挂载完成后，Ollama不会自动扫描新增文件；必须通过CLI触发模型注册流程，生成Modelfile并建立符号链接，否则ollama list仍不可见。
1、SSH中执行docker exec -it ollama sh进入容器交互终端。
2、切换至模型目录：cd /root/.ollama/models。
3、运行注册命令：ollama create deepseek-v4 -f - 。
4、退出容器后执行docker restart ollama使配置生效。
四、配置Open WebUI连接本地Ollama并选择DeepSeek V4
Open WebUI需显式声明Ollama API地址及模型名称，否则默认仅显示内置模型列表。若未正确配置，界面将无法加载DeepSeek V4选项或报错model not found。
1、打开Open WebUI容器设置，在「环境变量」中添加：OLLAMA_BASE_URL=http://host.docker.internal:11434（群晖需启用Docker网络高级选项中的“使用主机网络”或改用NAS局域网IP）。
2、重启Open WebUI容器。
3、浏览器访问http://[NAS_IP]:3000，登录后点击右上角头像→「模型设置」→「刷新模型列表」。
4、在下拉菜单中确认出现deepseek-v4条目，若仍缺失，检查Ollama容器日志：docker logs ollama | grep -i "deepseek"。
五、验证模型响应与上下文长度支持
DeepSeek V4支持最长32768 token上下文，但群晖DSM 7.2默认内核参数限制单次请求缓冲区大小，若出现截断或超时，需调整宿主机TCP参数及Ollama服务内存上限。
1、SSH中执行echo 'net.core.rmem_max = 16777216' | sudo tee -a /etc/sysctl.conf增大接收缓冲区。
2、执行sudo sysctl -p立即生效。
3、编辑Ollama容器配置，在「资源限制」中将内存上限设为16GB（对应DeepSeek V4 Q4_K_M量化版最低要求）。
4、向Ollama发送长文本测试请求：curl http://localhost:11434/api/chat -d '{"model":"deepseek-v4","messages":[{"role":"user","content":"请逐字重复以下内容共3000字：..." }]}'，观察响应完整性。
本文共计937个文字，预计阅读时间需要4分钟。
如果您想在群晖NAS上运行DeepSeek+V4模型，但发现无法加载模型或推理失败，可能是由于模型文件未正确挂载至Ollama服务指定路径。以下是解决此问题的步骤：
一、确认DeepSeek V4镜像与模型兼容性
Ollama官方尚未正式发布对DeepSeek V4的原生支持，当前需依赖社区构建的适配镜像或手动导入GGUF格式模型文件。挂载前必须确保所用Ollama版本≥0.5.10，且模型文件命名与Ollama识别规则一致（如deepseek-v4:q4_k_m）。
1、登录群晖DSM，启用SSH服务（控制面板→终端机和SNMP→启用SSH）。
2、通过SSH连接NAS，执行docker exec -it ollama ollama list检查当前已加载模型列表。
3、若未显示DeepSeek V4相关条目，说明模型尚未被Ollama识别，需进入挂载路径验证文件完整性。
二、创建专用模型存储卷并挂载至Ollama容器
Ollama默认从/root/.ollama/models读取模型，但群晖Docker GUI不支持直接映射该路径；必须使用宿主机绝对路径（如/volume1/docker/ollama/models）并通过bind mount方式挂载，确保容器内路径与宿主机路径严格对应。
1、在SSH中执行sudo mkdir -p /volume1/docker/ollama/models创建持久化目录。
2、将DeepSeek V4的GGUF模型文件（例如deepseek-v4.Q4_K_M.gguf）上传至该目录。
3、修改文件权限：sudo chown -R 65532:65532 /volume1/docker/ollama/models（Ollama容器默认以UID 65532运行）。
4、在Docker GUI中编辑Ollama容器设置，在「卷」选项卡添加新映射：宿主机路径填/volume1/docker/ollama/models，装载路径填/root/.ollama/models，权限设为“读写”。
三、通过ollama run命令手动注册DeepSeek V4模型
挂载完成后，Ollama不会自动扫描新增文件；必须通过CLI触发模型注册流程，生成Modelfile并建立符号链接，否则ollama list仍不可见。
1、SSH中执行docker exec -it ollama sh进入容器交互终端。
2、切换至模型目录：cd /root/.ollama/models。
3、运行注册命令：ollama create deepseek-v4 -f - 。
4、退出容器后执行docker restart ollama使配置生效。
四、配置Open WebUI连接本地Ollama并选择DeepSeek V4
Open WebUI需显式声明Ollama API地址及模型名称，否则默认仅显示内置模型列表。若未正确配置，界面将无法加载DeepSeek V4选项或报错model not found。
1、打开Open WebUI容器设置，在「环境变量」中添加：OLLAMA_BASE_URL=http://host.docker.internal:11434（群晖需启用Docker网络高级选项中的“使用主机网络”或改用NAS局域网IP）。
2、重启Open WebUI容器。
3、浏览器访问http://[NAS_IP]:3000，登录后点击右上角头像→「模型设置」→「刷新模型列表」。
4、在下拉菜单中确认出现deepseek-v4条目，若仍缺失，检查Ollama容器日志：docker logs ollama | grep -i "deepseek"。
五、验证模型响应与上下文长度支持
DeepSeek V4支持最长32768 token上下文，但群晖DSM 7.2默认内核参数限制单次请求缓冲区大小，若出现截断或超时，需调整宿主机TCP参数及Ollama服务内存上限。
1、SSH中执行echo 'net.core.rmem_max = 16777216' | sudo tee -a /etc/sysctl.conf增大接收缓冲区。
2、执行sudo sysctl -p立即生效。
3、编辑Ollama容器配置，在「资源限制」中将内存上限设为16GB（对应DeepSeek V4 Q4_K_M量化版最低要求）。
4、向Ollama发送长文本测试请求：curl http://localhost:11434/api/chat -d '{"model":"deepseek-v4","messages":[{"role":"user","content":"请逐字重复以下内容共3000字：..." }]}'，观察响应完整性。