Meta开源首个320亿参数代码世界模型CWM

Meta FAIR 刚刚发布了 Code World Model (CWM)，一个 320 亿参数的研究模型。这个模型用"世界模拟"的方式处理代码，会先在内部模拟代码执行过程，再输出结果。

和其它代码生成模型不同，后者更像是"抄作业"，基于训练数据的模式匹配。而 CWM 试图真正"理解"代码逻辑，而不只是代码生成。从这一点来说，Meta又向前走了一步。

测试成绩很亮眼：Math-500 数据集上拿到 96.6% 的分数。这个数据集不只考验代码生成，还包括数学推理任务。虽然不是第一，但是一个很好的开始。

Meta 直接开放了模型权重，研究许可下任何人都能使用。技术报告放在官网，模型文件在 HuggingFace，源代码在 GitHub 上都能下载。社区里已经有人在讨论把模型"上链"，让更多人能参与改进。

技术报告链接：https://ai.meta.com/research/publications/cwm/

权重下载：https://huggingface.co/facebook/cwm

代码仓库：https://github.com/facebookresearch/cwm