局域网内访问本地大模型，无需配置公网IP吗？
- 内容介绍
- 文章标签
- 相关推荐
本文共计1431个文字，预计阅读时间需要6分钟。
如果您已在本地成功运行大语言模型服务（如llamafile、LocalAI或Ollama+WebUI），但仅能通过localhost访问，希望同一局域网内的其他设备（如手机、笔记本等）也能直接访问，请确保以下设置：
一、修改服务监听地址为 0.0.0.0
多数本地大模型服务默认仅绑定到 127.0.0.1（localhost），导致仅本机可访问。需强制其监听所有网络接口，即 0.0.0.0，使局域网内其他设备可通过本机局域网 IP（如 192.168.1.105）访问。
1、对于 llamafile：在命令行中运行时添加 --host 0.0.0.0 参数，例如：
./Qwen_Qwen3-4B-Q4_K_M.llamafile --host 0.0.0.0 --port 8080
2、对于 Ollama + WebUI（如 Text Generation WebUI）：启动脚本中查找 --listen 或 --host 选项，在启动命令末尾添加 --listen 0.0.0.0:7860（端口依实际调整）
3、对于 LocalAI Docker 容器：在 docker run 命令中确保已使用 -p 8080:8080 映射，并在环境变量中指定 HOST=0.0.0.0，例如：
sudo docker run -ti --name local-ai -p 8080:8080 -e HOST=0.0.0.0 localai/localai:latest-cpu
二、获取并使用本机局域网IP地址
局域网设备无法识别 localhost，必须使用部署主机的实际局域网 IPv4 地址（如 192.168.x.x 或 10.x.x.x）。该地址需在客户端浏览器中显式输入，且必须与服务监听地址（0.0.0.0）及端口匹配。
1、在 Windows 上：按 Win + R 输入 cmd，回车后执行 ipconfig，查找“无线局域网适配器 WLAN”或“以太网适配器 以太网”下的 IPv4 地址
2、在 macOS 上：打开“系统设置”→“网络”，点击当前连接名称，查看“IP 地址”项
3、在 Linux 上：终端中执行 hostname -I 或 ip a | grep "inet " | grep -v "127.0.0.1"
4、在局域网其他设备浏览器中输入：http://[查得的IP]:[服务端口]，例如：http://192.168.1.105:8080
三、关闭或配置系统防火墙
Windows Defender 防火墙、macOS 防火墙或 Linux ufw 等可能拦截来自局域网的入站连接请求，即使服务已监听 0.0.0.0，外部请求仍会被丢弃。
1、Windows：打开“控制面板”→“系统和安全”→“Windows Defender 防火墙”→“允许应用或功能通过 Windows Defender 防火墙”，勾选对应程序（如 cmd、Terminal、Docker Desktop）或手动添加端口规则，允许 TCP 入站端口 [服务端口]
2、macOS：进入“系统设置”→“隐私与安全性”→“防火墙”→“防火墙选项”，点击“+”添加对应服务进程（如 Terminal.app）或启用“允许传入连接”并指定端口
3、Ubuntu/Debian：终端执行 sudo ufw allow [端口号]/tcp，例如：sudo ufw allow 8080/tcp
四、验证路由器/交换机无隔离策略
部分家用路由器（尤其带“AP 隔离”、“客户端隔离”或“无线隔离”功能的型号）默认禁止同一局域网内无线设备间互访，导致手机无法访问电脑上的模型服务，即使 IP 和防火墙均正确。
1、登录路由器管理后台（通常地址为 192.168.1.1 或 192.168.0.1，账号密码见设备标签）
2、查找“无线设置”、“高级无线”、“安全设置”等菜单项
3、关闭名为 AP Isolation、Client Isolation、无线隔离 或 Station Isolation 的选项
4、保存设置并重启路由器（部分设备需重启生效）
五、检查服务是否实际响应局域网请求
即使完成上述配置，仍需确认服务进程确实在监听 0.0.0.0 并接受外部连接，而非仅绑定 127.0.0.1 或因权限/路径问题未真正启动。
1、在服务运行的主机上，Windows 执行：netstat -ano | findstr :[端口号]；Linux/macOS 执行：lsof -i :[端口号] 或 ss -tuln | grep :[端口号]
2、确认输出中包含 0.0.0.0:[端口号] 或 *:[端口号]，而非仅 127.0.0.1:[端口号]
3、在局域网另一台设备（如手机）上，使用命令行工具（Termux、iSH）或网络诊断 App 执行：ping [本机局域网IP] 确认基础连通性，再执行：curl -v http://[本机局域网IP]:[端口号] 查看 HTTP 响应状态码
本文共计1431个文字，预计阅读时间需要6分钟。
如果您已在本地成功运行大语言模型服务（如llamafile、LocalAI或Ollama+WebUI），但仅能通过localhost访问，希望同一局域网内的其他设备（如手机、笔记本等）也能直接访问，请确保以下设置：
一、修改服务监听地址为 0.0.0.0
多数本地大模型服务默认仅绑定到 127.0.0.1（localhost），导致仅本机可访问。需强制其监听所有网络接口，即 0.0.0.0，使局域网内其他设备可通过本机局域网 IP（如 192.168.1.105）访问。
1、对于 llamafile：在命令行中运行时添加 --host 0.0.0.0 参数，例如：
./Qwen_Qwen3-4B-Q4_K_M.llamafile --host 0.0.0.0 --port 8080
2、对于 Ollama + WebUI（如 Text Generation WebUI）：启动脚本中查找 --listen 或 --host 选项，在启动命令末尾添加 --listen 0.0.0.0:7860（端口依实际调整）
3、对于 LocalAI Docker 容器：在 docker run 命令中确保已使用 -p 8080:8080 映射，并在环境变量中指定 HOST=0.0.0.0，例如：
sudo docker run -ti --name local-ai -p 8080:8080 -e HOST=0.0.0.0 localai/localai:latest-cpu
二、获取并使用本机局域网IP地址
局域网设备无法识别 localhost，必须使用部署主机的实际局域网 IPv4 地址（如 192.168.x.x 或 10.x.x.x）。该地址需在客户端浏览器中显式输入，且必须与服务监听地址（0.0.0.0）及端口匹配。
1、在 Windows 上：按 Win + R 输入 cmd，回车后执行 ipconfig，查找“无线局域网适配器 WLAN”或“以太网适配器 以太网”下的 IPv4 地址
2、在 macOS 上：打开“系统设置”→“网络”，点击当前连接名称，查看“IP 地址”项
3、在 Linux 上：终端中执行 hostname -I 或 ip a | grep "inet " | grep -v "127.0.0.1"
4、在局域网其他设备浏览器中输入：http://[查得的IP]:[服务端口]，例如：http://192.168.1.105:8080
三、关闭或配置系统防火墙
Windows Defender 防火墙、macOS 防火墙或 Linux ufw 等可能拦截来自局域网的入站连接请求，即使服务已监听 0.0.0.0，外部请求仍会被丢弃。
1、Windows：打开“控制面板”→“系统和安全”→“Windows Defender 防火墙”→“允许应用或功能通过 Windows Defender 防火墙”，勾选对应程序（如 cmd、Terminal、Docker Desktop）或手动添加端口规则，允许 TCP 入站端口 [服务端口]
2、macOS：进入“系统设置”→“隐私与安全性”→“防火墙”→“防火墙选项”，点击“+”添加对应服务进程（如 Terminal.app）或启用“允许传入连接”并指定端口
3、Ubuntu/Debian：终端执行 sudo ufw allow [端口号]/tcp，例如：sudo ufw allow 8080/tcp
四、验证路由器/交换机无隔离策略
部分家用路由器（尤其带“AP 隔离”、“客户端隔离”或“无线隔离”功能的型号）默认禁止同一局域网内无线设备间互访，导致手机无法访问电脑上的模型服务，即使 IP 和防火墙均正确。
1、登录路由器管理后台（通常地址为 192.168.1.1 或 192.168.0.1，账号密码见设备标签）
2、查找“无线设置”、“高级无线”、“安全设置”等菜单项
3、关闭名为 AP Isolation、Client Isolation、无线隔离 或 Station Isolation 的选项
4、保存设置并重启路由器（部分设备需重启生效）
五、检查服务是否实际响应局域网请求
即使完成上述配置，仍需确认服务进程确实在监听 0.0.0.0 并接受外部连接，而非仅绑定 127.0.0.1 或因权限/路径问题未真正启动。
1、在服务运行的主机上，Windows 执行：netstat -ano | findstr :[端口号]；Linux/macOS 执行：lsof -i :[端口号] 或 ss -tuln | grep :[端口号]
2、确认输出中包含 0.0.0.0:[端口号] 或 *:[端口号]，而非仅 127.0.0.1:[端口号]
3、在局域网另一台设备（如手机）上，使用命令行工具（Termux、iSH）或网络诊断 App 执行：ping [本机局域网IP] 确认基础连通性，再执行：curl -v http://[本机局域网IP]:[端口号] 查看 HTTP 响应状态码