首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >混元 hy3 半小时实测 250 道评测题:能力与持平五倍参数大模型

混元 hy3 半小时实测 250 道评测题:能力与持平五倍参数大模型

作者头像
勇哥AI笔记
发布2026-07-11 10:22:43
发布2026-07-11 10:22:43
1640
举报
文章被收录于专栏:技术人生黄勇技术人生黄勇

腾讯正式官宣混元大模型 hy3 发布后,在 WorkBuddy 用它跑了一个收集大模型LLM评测题的任务,初步体验在日常任务已经和国产头部模型能力不相上下。

任务收集到 25 个网站评测题的来源,250 多道子题,从鸡兔同笼到摩斯密码,从莎士比亚十四行诗到"凶手不是背包客所以你是凶手"的逻辑陷阱:

• 有纯知识题(蝙蝠侠是谁、1955 年美国总统)

• 有数学计算题(123456 × 654321、鸡兔同笼、阶乘尾零)

• 有逻辑陷阱题(False Belief、狼羊菜过河、球棒谜题)

• 有密码破译题(摩斯码、凯撒加密、非标准映射)

• 还有创意写作题(老爸笑话、ASCII 大象、吴语俳句)

还有之前典型的大模型会翻车的题:9.11 和 9.9 谁大?strawberry 里有几个 r?一公斤棉花和一公斤铁哪个重?

直接把这整份题集丢给混元 hy3,让它逐一作答,并输出结果到文件中

答题过程

它没有一道道硬答,而是走了一套工程化流程。

1. 先建目录,按来源归档

收到任务第一件事,是在当天日期目录下建好文件夹,把题集按 25 个来源分门别类。先规划再动手,不搞"想到哪写到哪"。

2. 数学逻辑题,全部用 Python 验证

这个决策令我挺意外的,大模型知道自己算数不行,学会用代码来验证了。

所有硬计算题:乘积、鸡兔同笼、阶乘、几何、约束穷举,律写脚本跑,不靠推理输出。

比如:

代码语言:javascript
复制
# 鸡兔同笼:35 头 94 脚
# c + r = 35, 2c + 4r = 94  ->  r = 12, c = 23

# 123456 × 654321
print(123456 * 654321)   # 80779853376

# 15! 结尾几个 0
t = 15//5 + 15//25       # = 3

验证结果显示:123456 × 654321 = 80,779,853,376

鸡兔同笼鸡 23、兔 12

15! 尾零 3 个

3. 约束类题,穷举求解

像"十六句真假""七位密码",直接上 2¹⁶ 或 10⁷ 空间穷举,用代码枚举所有可能性再筛选。

4. 密码类题,暴力破解位移

对疑似凯撒加密的密文,把 26 种位移全跑一遍,挑出可读的那一个。

5. 题源有缺陷的,如实标注

遇到题目本身矛盾或信息不足,hy3 不硬凑一个"标准答案",而是明确写出"此题无解 / 不唯一 / 规则未给出",并把推导过程写清楚。

找出 3 处错误

大概半个小时,整份250道题集跑完。

给出了总结报告,还发现三类题源缺陷

题面自相矛盾的"无解题"

来源 #5 的十六句真假之谜:16 句话每句要么全真要么全假,要你找出唯一一组真假分配。

hy3 把 16 条陈述按字面自指约束做 2¹⁶ = 65536 种穷举,结果一个一致解都没有

推导链会强制第 8~12 句全为真且相邻,但这又和"不存在两个相邻句子同时为真"直接冲突。

所以:这道命题集本身自相矛盾,无解

hy3 识别出了矛盾,这有点出乎我的意料。

信息不足的"不唯一题"

同一来源的七位保险箱密码:四人各猜一个数字(8395760 / 9427601 / 5783462 / 7912840),说每人恰好对 2 个数字且位置不相邻。

但穷举下来有 54 个候选解,题目给的约束无法推导出唯一答案。

这类题表面条件齐全,实际是个"超定不完"的废题。

hy3 的做法是列出候选并标注"无法唯一确定",而不是随便挑一个糊弄。

非标准编码的"死密题"

好几道密码题(摩斯爱情密码、凯撒示例 oyfjdnisdr → Think step by step)用了非标准映射

拿标准凯撒去穷举 26 种位移,目标密文全是乱码

示例本身也不是标准凯撒,而且看起来是"每个明文字母对应两个密文字母"的 2:1 映射,规则题面根本没给。

这种题,没有规则就无法可靠还原明文。hy3 如实标注方法,不臆造"破译结果"。

hy3 在这个测试中,没有出现以前常会出现的幻觉,自圆其说的编一个答案,敢说"我不会 / 这题没答案"了。

专坑大模型的高频陷阱

除了题源缺陷,这套题集还集中暴露了一批"人觉得简单、模型常翻车"的陷阱。hy3 基本都稳住了,我挑几个最经典的:

数字比较陷阱

  • 9.119.9 谁大?9.9 = 9.90 > 9.11,9.9 更大。别把 9.11 当成"9 点 11 分"。
  • π3.2 谁大?π ≈ 3.1416,3.2 更大。这条连人都会直觉答错,hy3 还特意做了纠正标注。
  • −9.11−9.9 谁大?负数反向,−9.9 更大

字母计数陷阱

  • strawberry 里有几个 r?3 个(s-t-r-a-w-b-e-r-r-y)。大模型因分词常被数成 2 个,hy3 用字符级计数稳过。
  • • 同理 mirror 2 个 r、zoom 2 个 o、mammal 3 个 m。

物理常识陷阱

  • • 一公斤棉花和一公斤铁哪个重?一样重,都是 1 kg。重量看质量,不看体积。
  • • 月球上同时放羽毛和保龄球,哪个先落地?同时落地(无空气阻力,自由落体同加速度 g)。

身份/语义陷阱

  • • "你们抓的是周树人,和我鲁迅有什么关系?"——鲁迅本名周树人,同一人,这是网友玩梗。
  • • "昨天是明天,今天就是星期五",今天星期几?推导得 周三(假设今天 = T+2 = 周五)。
  • • 球和球棒总价 11 美元,球棒比球贵 10 美元,球多少钱?0.5 美元(很多人会脱口答 1)。

错误信念 False Belief 陷阱

  • • Sarah 把高跟鞋放裙子下、去购物,姐姐借走放床下。
  • Sarah 回来会认为鞋在哪?
  • 裙子下面,她不知道姐姐动过。这是经典的"错误信念"测试,考的是模型能不能区分"自己知道"和"角色知道"。

关键数值核对,验证结论

hy3 把所有计算题用 Python 跑了一遍,结论如下:

题目

验证结果

123456 × 654321

80,779,853,376

鸡兔同笼(35 头 94 脚)

鸡 23,兔 12

非空前子集和平方和(n=2023)mod 1e9+7

763,183,190

两船相向·河宽

1400 km

搬香蕉回家(100 根/50 米)

16 根

小明提前放学

早 21 分钟

温斯顿步行

26 分钟

老王退休年龄

78 岁

运 1000 花瓶·打破几个

4 个

蘑菇失水(99%→98%)

减少 500 kg

石头首跳距离(总 65 英寸)

40 英寸

苹果换算(56 香蕉)

18 个苹果

1 加到 101

5151

青蛙跳井(10m,+5/−3)

4 次跳出

绳子对折 10 次剪断

1025 段

strawberry r / zoom o

3 / 2

π vs 3.2 / e vs 2.8

3.2 更大 / 2.8 更大

SuperCLUE评测结果

SuperCLUE 也第一时间发布了一版 hy3 的评测报告,测评中取得总分 47.37 分,与 DeepSeek-V4-Pro (max) 得分持平。

Hy3(high) 总参数量仅为 295B,却能在解题能力上与比自己大四五倍的模型不相上下对标DeepSeek。

在推理效能方面,Hy3(high) 单题平均耗时 397.72 秒,响应速度位居前列,能够有效支撑实时编程与终端调试等对延迟敏感的开发场景。

在交互效率上,Hy3(high) 平均每题仅需 43.99 轮对话即可完成任务,对话迭代次数较少,无需反复修正便能完成代码分析、修改与验证,体现了较高的任务收敛效率。

在资源消耗维度,Hy3(high) 平均每题 Token 用量仅为 1.16 百万,算力开销控制较为出色,对云端推理资源占用更少。

在成本层面,Hy3(high) 平均每题仅需 0.43 元,属于经济适用型定价,兼顾性能与成本。

这就是后发优势:研发方向正确,再配合腾讯庞大的用户和产品生态,AI时代的船票,稳稳拿捏。

你用混元 hy3 了吗,使用体验如何?

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2026-07-08,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 技术人生黄勇 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 答题过程
  • 找出 3 处错误
    • 题面自相矛盾的"无解题"
    • 信息不足的"不唯一题"
    • 非标准编码的"死密题"
  • 专坑大模型的高频陷阱
  • 关键数值核对,验证结论
  • SuperCLUE评测结果
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档