疯狂挖人的 Meta，终于在今天发布了最新 AI 研发成果！代码世界模型 CWM 是本次发布的模型，创新性地将世界模型引入了代码生成任务中。这是否会成为编程模型新范式？
疯狂挖人的 Meta，终于把他们的 AI 研发新成果端上来了！
就在今天，Meta 官宣发布了一款名为代码世界模型（Code World Model，CWM）的 LLM，探索如何使用世界模型改进 AI 代码生成性能。
Yann LeCun 也亲自下场转发撑场子了。
CWM 究竟有哪些创新点？这个 32B 的参数相对较小的大模型，究竟有多强？
CWM 创新点本次发布的 CWM，最大的创新点是，将世界模型引入了代码生成任务中。
简言之，该模型的核心正如 Yann LeCun 所言：生成代码时，通过提前预测即将生成的代码指令可能产生的效果，来更好地规划出能够满足人类期望达成的效果的代码，从而改进生成代码的质量。
当人类进行规划时，我们会设想不同行动可能产生的结果。
当人类思考代码时，会在脑海中模拟其部分执行过程。
而目前市面上的主流语言模型，还很难做到这一点。
专门训练一个代码世界模型，补足这一点，生成代码的效果会不会好很多，是 Meta 要通过本次发布的 CWM 验证的猜想。
CWM 基于大量编程数据，加上专门定制的 Python 和 Bash（Linux 和 macOS 的命令行解释器脚本语言）的世界建模数据，进行该模型的训练。
通过这种训练，CWM 能够模拟 Python 程序在 Bash 环境中的执行及与 Agent 之间的交互。
对于「数数 strawberry 中有多少个 r」这个难倒无数大模型的问题，CWM 也用类似 pdb（Python Debug 用的调试器）的形式演示了其工作流程：
CWM 直接发布了 3 个不同的 Checkpoint，用于不同目的。
「光说不练假把式」，我们直接看看这个 32B 的小参数大模型在各类编程基准测试中的表现如何。
SWE-bench Verified 是一个真实开源项目修复的最常用的编程评测标准，让模型在真实的大型开源仓库里，根据 GitHub issue+failing tests，定位并修复缺陷，最终以自动化测试是否全部通过来判定是否解决。
在该项测试中，32B 小参数的 CWM 成绩为 65.8%，逊于 Qwen3-Coder 和 Kimi-K2-Instruct，与闭源的 Gemini-2.5-Thinking 接近，属于开源阵营第一梯队了。
其他测试成绩 Alexandr Wang 也直接发出来了：
LiveCodeBench：68.6%
Math-500：96.6%
AIME 2024：76.0%
CWM 模型算是 Meta 的一次概念验证，投入了不算多的算力训练这个小参数大模型，主要是为了检验将世界模型引入代码生成任务是否会显著提高生成代码质量。
换言之，我们今日看到的这个模型只能算 Demo。大的还在后面？
参考资料：
https://ai.meta.com/research/publications/cwm-an-open-weights-llm-for-research-on-code-generation-with-world-models/
https://x.com/syhw/status/1970960837721653409
https://x.com/AIatMeta/status/1970963571753222319
https://x.com/ylecun/status/1970967341052854748
https://x.com/alexandr_wang/status/1970973317227225433
本文来自微信公众号：新智元（ID：AI_era）
本文链接：http://www.28at.com/showinfo-45-28158-0.htmlLeCun 团队开源首款代码世界模型，能像程序员一样思考的 LLM 来了
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
