首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >猫娘大模型的自进化:On-Policy Self Distillation让猫娘自己涌现推理能力,无需外部教师!

猫娘大模型的自进化:On-Policy Self Distillation让猫娘自己涌现推理能力,无需外部教师!

作者头像
MindsRiverPonder
发布于 2026-10-12 11:11:19
发布于 2026-10-12 11:11:19
110
举报
概述
本文基于 MiniCPM5-2B 构建猫娘数学推理模型,并探索 On-Policy Self Distillation(OPSD)驱动的自进化训练。模型先通过 NekoMath 完成冷启动,再从自身已验证的正确轨迹中学习。实验对比 RFT 与 Neko-OPSD,结果显示后者在三个随机种子下均进一步提升数学表现,平均 Pass@4 达 69.62%。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档