LEEHPC 集群中部署 Open-WebUI + Ollama 大模型推理服务的完整记录
原创
LEEHPC 集群中部署 Open-WebUI + Ollama 大模型推理服务的完整记录
用户5615538
修改于 2026-08-11 21:02:39
修改于 2026-08-11 21:02:39
概述
在 传统HPC集群 GPU 节点部署 Ollama + Open-WebUI，通过管理节点 Nginx 反向代理实现多用户统一入口访问大模型，含完整 systemd 配置、并发调优和踩坑记录。
原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。
如有侵权，请联系 cloudcommunity@tencent.com 删除。
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号