用 1Panel 部署本地 AI 大模型：Ollama 与 Open WebUI 实战

先算资源账：你的服务器带得动什么模型

本地部署大模型的第一步不是装软件，而是确认硬件。模型参数量决定了内存或显存需求，量化版本会显著降低占用，但纯 CPU 推理会明显慢于 GPU。先按下表做一次粗略评估：

模型规模	内存/显存参考（量化后）	适合的硬件
1.5B–3B	约 2–4 GB	4 GB 内存以上的入门 VPS，可做轻量对话测试
7B–8B	约 5–8 GB	8–16 GB 内存的服务器；有 8GB+ 显存的 GPU 更流畅
13B–14B	约 9–14 GB	16 GB 以上内存或 12GB+ 显存 GPU
30B 以上	20 GB 起	多卡或高端工作站，不适合普通云服务器

带宽与流量也要算

拉取模型文件动辄数 GB，注意服务器的磁盘空间与流量包额度；模型下载后保存在本地，推理本身不消耗公网流量。

用 1Panel 容器部署 Ollama

Ollama 是目前最易用的本地模型运行时，官方提供 Docker 镜像。在 1Panel 的「容器」功能中可以直接创建并管理它，也可以在应用商店搜索是否已收录。以容器方式部署为例：

1. 在「容器-镜像」中拉取 ollama/ollama 官方镜像。
2. 创建容器：映射 11434 端口，挂载 /root/.ollama 卷用于保存模型。
3. 有 NVIDIA GPU 的服务器，先按官方文档安装容器 GPU 运行时，再给容器分配 GPU。
4. 启动后在容器终端执行 ollama pull qwen3:4b 之类命令拉取模型（模型名以官方库为准）。
5. 用 curl 验证 API 可用后再进入下一步。

curl http://127.0.0.1:11434/api/tags
curl http://127.0.0.1:11434/api/generate -d '{"model": "qwen3:4b", "prompt": "你好", "stream": false}'

端口不要暴露公网

Ollama 的 11434 端口默认没有鉴权，把它直接开放到公网等于把模型服务白送出去。保持仅内网监听，由 WebUI 或反代转发访问。

部署 Open WebUI 对话界面

Open WebUI 提供了类似主流 AI 助手的聊天界面，支持多用户、对话历史与模型切换。同样以容器方式部署，通过环境变量指向 Ollama 服务：

1. 拉取 open-webui 官方镜像。
2. 创建容器，设置环境变量 OLLAMA_BASE_URL 指向 Ollama 容器地址（同一 Docker 网络下可用容器名访问）。
3. 挂载数据卷保存用户与对话数据，映射一个本地高位端口。
4. 首次访问注册管理员账号，并在设置中关闭无需注册的开放注册。

如果希望通过域名访问，可以在 1Panel 中创建一个反向代理网站指向 WebUI 端口，再配置 HTTPS 证书，这样在手机上也能安全使用自己的模型服务。

运维与成本提示

• 模型与对话数据都存在挂载卷里，把这两个卷纳入面板备份计划。
• CPU 推理时占用很高，避免与生产网站挤在同一台低配服务器上，可错峰使用或单独开一台。
• 更新镜像前先备份卷数据；Ollama 与 WebUI 的版本兼容性以各自发布说明为准。
• 对外提供服务时，务必走 HTTPS 反代并开启 WebUI 的注册控制。

本地部署的价值是数据不出服务器。如果为了省事把无鉴权的服务直接暴露公网，反而把最想保护的数据交了出去。

安全提示