
Ollama 让你在服务器上运行大模型变得非常简单,但纯命令行的交互方式对很多用户来说并不友好。Open WebUI 正是为了解决这个问题而诞生的——它为 Ollama 提供了一个功能完整的 Web 图形界面,让你像使用 ChatGPT 一样与本地大模型对话。本文将教你如何在腾讯云 Lighthouse 上部署 Open WebUI。
Open WebUI 是一个开源的、功能丰富的大模型聊天界面,专为 Ollama 设计,同时兼容 OpenAI 格式的 API。它的主要功能包括:
在部署 Open WebUI 之前,需要先完成以下工作:
如果还没有安装 Ollama,可以参考之前的教程先完成部署。
执行以下命令即可启动 Open WebUI:
docker run -d -p 3000:8080 \
-v open-webui:/app/backend/data \
-e OLLAMA_BASE_URL=http://你的服务器内网IP:11434 \
--name open-webui \
--restart always \
ghcr.io/open-webui/open-webui:main参数说明:
-p 3000:8080:将容器的 8080 端口映射到服务器的 3000 端口-v open-webui:/app/backend/data:持久化存储用户数据和聊天记录-e OLLAMA_BASE_URL:指定 Ollama 服务的地址--restart always:自动重启,确保服务持续运行如果 Ollama 和 Open WebUI 安装在同一个服务器上,OLLAMA_BASE_URL 可以设置为 http://127.0.0.1:11434。
创建一个 docker-compose.yml 文件:
version: '3.8'
services:
ollama:
image: ollama/ollama:latest
container_name: ollama
restart: always
volumes:
- ollama-data:/root/.ollama
ports:
- "11434:11434"
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
restart: always
depends_on:
- ollama
ports:
- "3000:8080"
volumes:
- open-webui-data:/app/backend/data
environment:
- OLLAMA_BASE_URL=http://ollama:11434
volumes:
ollama-data:
open-webui-data:然后在文件所在目录执行:
docker compose up -d这种方式的优势是 Ollama 和 Open WebUI 一次性部署完成。
部署完成后,在浏览器访问 http://你的服务器IP:3000。
首次访问需要注册管理员账号,注册后自动登录。
登录后,在界面顶部的模型选择下拉框中,可以看到你在 Ollama 中已安装的所有模型,点击即可切换。
点击输入框左侧的附件图标,可以上传 PDF、Word、图片等文件。Open WebUI 会自动提取文件内容并作为上下文发送给模型。
在侧边栏中找到"知识库"功能,上传文档后,可以在对话中选择对应的知识库,让模型基于你的私有文档回答问题。
将 Open WebUI 部署到公网后,建议:
Q1:为什么访问页面显示空白?
A:检查 Docker 容器是否正常运行:docker ps。确认端口映射是否正确,以及服务器防火墙是否放行了 3000 端口。
Q2:Open WebUI 无法连接 Ollama?
A:在容器内测试能否访问 Ollama:docker exec open-webui curl http://host.docker.internal:11434。如果无法连接,检查 OLLAMA_BASE_URL 配置是否正确。
Q3:聊天记录会丢失吗?
A:如果使用了 -v open-webui:/app/backend/data 持久化挂载,聊天记录会保存在 Docker 卷中,容器重启不会丢失。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。