
11 月 20 日,腾讯混元开放了旗舰 Hy4 的模型权重。此前已经能通过服务体验 Hy4,本次新增的是获取权重、自行部署和评估的路径。官方仓库列出了 Hy4、Hy4-FP8 和预训练基础模型三个版本,并给出 vLLM、SGLang 部署入口。按官方模型说明,旗舰版支持理解文本、图片和视频,语言主体包含 770B 总参数,每个 token 激活 49B 参数。腾讯混元官方仓库 · IT之家https://www.ithome.com/1/029/841.htm
Hy4 与 Hy4-FP8 都面向指令任务,后者为 FP8 量化版本。预训练基础版保留给需要进一步后训练的团队,官方对话和推理示例给的是两个指令版本。想验证客服文档摘要、图文信息抽取或屏幕理解时,可先选指令版,固定输入、输出格式和检查标准。已有部署资源且想验证成本的团队,可以用相同样本比较指令版与 FP8 版,看看长文漏项、图像识别和格式错误有没有明显变化。官方模型卡

混合专家架构只为每个 token 选择部分专家参与运算,而服务器仍要能保存和访问完整的模型权重。49B 因此主要用来理解每步计算,部署预算还要看完整权重、精度、视觉模块和缓存开销。官方列出的长上下文能力适合读大型文档或处理长对话。真实请求越长,推理缓存和首字等待越值得测量。团队可以先用日常最长的报告或图片批次试跑,从小并发开始,记录首字耗时、吞吐、显存峰值和失败率,再决定是否提高上下文上限。腾讯混元官方仓库

官方仓库列有 Hugging Face、ModelScope 和 GitCode 下载入口,生产部署提供 vLLM 与 SGLang 示例,也有供端到端测试的 GGUF 路径。正式选后端前,可先记录权重版本和对应镜像标签。部署完成后,用官方示例验证兼容接口,再用自己的业务输入校验响应字段。服务准备接入网关时,宜确认超时设置、异常状态和输出长度,尤其要让长输入的表现能够与短请求分开观察。
权重随 Tencent Hy License 发布。准备再分发、量化发布或对外提供托管服务的团队,应在上线前查看仓库内对应许可全文,再核对自己的使用方式。腾讯混元官方仓库与许可入口

旗舰权重已对外开放,开发团队可以下载并自行选择部署环境。
预训练基础版用于后训练等用途。普通聊天和指令任务应优先选择指令版。
本次公告主要涉及权重和部署资料。托管费用按所使用的服务商报价和账号条件核对。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。