"show me the code"变得越来越重要

Cursor 举办了一场小型聚会，主要讨论AI 部署进生产环境之后遇到的真实问题。

很多观点和内容我是有共鸣的。

参考我之前的一些观点：

AI 越来越强，你却越来越累？

AI Coding 越强，我越不敢让它随便写代码

分享中提到，AI 正经历三个阶段演进。

第一阶段：AI 辅助阶段，比如用 Copilot 补全代码，用 Claude 写文档，用 ChatGPT 回答问题，这个阶段 AI 是工具，人是主导。

第二阶段：照看 AI Agent 阶段，开始将复杂任务交给 Agent 去做，但你离不开电脑，它跑偏了你需要把它拉回来。你只是在管理一个不那么靠谱的系统。

第三阶段：AI Agent 团队在后台自主运行，你给它一个触发条件，然后你去做别的事情。Agent 在自己的计算环境里工作几小时甚至几天，做完了来找你，你只是在关键决策点上出现，其他时候放手。

目前很多人使用 AI 停留在第二阶段，在照看一个需要不断被推动的系统。

这个阶段，很多人花在 review 代码上的时间，比花在写代码上的时间要多。

AI 生成代码的速度远超人工，但生成出的结果需要人来判断对不对，符不符合架构（比如 review/验证/测试/调试），所以 review 的工作量在上升，写代码本身退居其次。

快速生成的东西不一定正确，后续的验证反而成为了新瓶颈。

因为你根本没有时间跟上它的节奏，如果不做 review，你以为在提速，实际上在积累技术债，等哪天需要修改某个地方，你发现那段代码完全陌生，因为代码不是你写的，而且你也没有认真 review 过。

很多团队用 Agent 写超过 60% 甚至 98% 的代码，但在软件工程里面 1% 的错误足以导致灾难性的后果，你的团队愿意承担这个后果的风险吗？

所以，让 Agent 可信，比让 Agent 聪明更重要，这暂时没有完美的解决方案。

其中一种方式就是让 Agent 的行为可见，你看不见 Agent 在做什么，你就没办法信任它，你可以实时看到 Agent 的每一步决策和输出，信心才会真正建立起来。

大家都在卷 Agent 做更多复杂的任务，但低估了可观测性的价值，比如对测试集通过率的可观测。

"show me the code"变得似乎越来越重要。