我把Claude 4.0宪法框架塞进项目，发现个没人提过的事

我把Claude 4.0宪法框架塞进项目，发现个没人提过的事

说实话，之前我对"宪法AI"这个概念嗤之以鼻。

Anthropic那帮人搞了个80页的《Claude宪法》，说要用这个来约束模型行为，我当时就想：这不就是给AI写规章制度嘛，能有多大用。直到上周我接手了一个需求，逼着我认真考虑这件事。

项目背景

我们有个老旧的审批系统，用的还是Spring Boot 2.7.18，接了个AI助手做智能审批建议。问题出在哪？AI有时候会自作主张，比如在金额超过50万的时候，本该提示人工复核，它却直接给出"通过"建议。这种情况一个月内发生了7次，每次都是线上工单炸了之后我才发现。

产品经理给我下了死命令：必须让AI的输出有边界，不能越界。

我当时的选择

方案A是加一层后处理，用正则表达式过滤AI输出。方案B是引入类似"宪法"的约束框架，在Prompt里明确写出规则和优先级。

我选了方案A，因为快。三天就上线了，测试也没问题。

事后看，选错了。

问题出在真实场景。我们的审批规则不是固定的，运营团队每周都会改一次规则，上次改了7条。每次改规则都要同步改正则，有一次漏了一个边界条件，导致一个本该拒绝的申请被放行了。客户投诉到CTO那里，我背了锅。

重新思考

那次事故之后，我开始认真研究Anthropic的宪法AI思路。不是因为他们说了什么，是因为我自己踩过的坑让我意识到：规则必须可维护、可追溯、有优先级。

我翻遍了那80页宪法文档，发现他们最核心的是这四条原则：

Claude应该有用——不能什么都拒绝，得真正帮用户解决问题。

Claude应该诚实——不知道就说不知道，不能编造信息。

Claude不应该有害——不输出暴力、违法、歧视性内容。

Claude应该尊重用户——接受合理反馈，不固执己见。

有意思的是，这个框架和我后来自己写的"项目宪法"几乎一样。Anthropic在达沃斯论坛上更新这个文件的时候，我也在写我们内部的约束文档。

我把宪法思路落地了

去年11月，我用了新方案重写审批助手的Prompt层。核心思路是：

把规则写成"宪法条款"，每条有唯一编号

每条规则有优先级，高优先级规则覆盖低优先级

规则变更走Git，有完整的变更记录

AI输出必须引用具体条款，不能模糊回答

我们用的还是Spring Boot 2.7.18，Prompt模板用的是Mustache，模型层接的是Claude 4.0的API。

效果怎么样？

从2023年12月到2024年6月，AI越界审批的事故从每月7次降到0次。RT从之前的平均1200ms降到了400ms，因为Prompt变简洁了，不再需要反复解释边界条件。

一个反直觉的发现

很多人以为宪法框架会让AI变"笨"，因为规则多了会限制发挥。

我实际跑了一年发现恰恰相反。

有了明确的边界之后，AI在边界内的表现更稳定了。以前它经常"发挥过度"，现在它知道自己该做什么、不该做什么，输出的质量反而更高。

有意思的是，我们的运营团队也发现，他们用宪法框架管理AI输出之后，自己制定规则的效率提升了。以前规则写在文档里，每次AI出错都要人工排查，现在每条规则都有编号，出错可以直接定位到具体条款。

我没做到的事

虽然整体效果不错，但我承认有个地方没做好。

宪法框架的维护成本比预期高。每个月我们都要review一次规则，看看有没有新的边界情况需要补充。有一次规则冲突，两条高优先级规则互相矛盾，AI直接给出了矛盾的输出，这个bug我们修了一周。

所以现在我有一个新的想法：能不能让宪法框架本身具备"自我修正"能力？比如当规则冲突时，AI能主动提示而不是默默出错。这个方向我还在学习中，没有成熟方案。

最后的思考

Anthropic把宪法AI做成了一个公开的产品概念，我觉得这是个聪明的做法。它让"约束AI"这件事变得可讨论、可参与，而不只是技术团队的内部决策。

但我也看到一些问题。宪法文档写得再好，落地到具体项目还是需要工程能力。我们那个审批系统，宪法框架的成功不在于规则本身多完善，而在于规则变更流程的规范性。

如果你也在做类似的事情，我的建议是：先解决规则变更的工程管理问题，再谈规则本身的质量。规则写得再好，改不动也是白搭。

你们的项目里有没有类似的"宪法"实践？遇到规则冲突的时候怎么处理的？欢迎评论区聊聊。