MindsRiverPonder
猫娘大模型的自进化:On-Policy Self Distillation让猫娘自己涌现推理能力,无需外部教师!
原创
关注作者
腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
MindsRiverPonder
社区首页
>
专栏
>
猫娘大模型的自进化:On-Policy Self Distillation让猫娘自己涌现推理能力,无需外部教师!
猫娘大模型的自进化:On-Policy Self Distillation让猫娘自己涌现推理能力,无需外部教师!
MindsRiverPonder
关注
发布于 2026-10-12 11:11:19
发布于 2026-10-12 11:11:19
11
0
举报
概述
本文基于 MiniCPM5-2B 构建猫娘数学推理模型,并探索 On-Policy Self Distillation(OPSD)驱动的自进化训练。模型先通过 NekoMath 完成冷启动,再从自身已验证的正确轨迹中学习。实验对比 RFT 与 Neko-OPSD,结果显示后者在三个随机种子下均进一步提升数学表现,平均 Pass@4 达 69.62%。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系
cloudcommunity@tencent.com
删除。
第四期热点征文-大模型技术
人工智能
NLP技术
#大模型训练
#大模型自进化
#AGI
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档