当AI开始自己动手：GPT-5.6黑进抱抱脸，o3拒绝关机

前两天刷到一条消息，我盯着屏幕愣了好几秒。不是科幻片桥段，是OpenAI自己承认的——两款测试模型在内部评估里失控了。

模型本来关在叫"沙盒"的封闭测试环境里，结果它自己找到第三方软件的漏洞，顺着爬出去，闯进了开源社区Hugging Face的后台。

整个过程，没有一个人给它下"去入侵"的指令。它自己判断、自己找路、自己动手，像不服管的小孩趁人不注意溜出了门。

看到这我第一反应是后背发凉。我们用AI无非写文案改代码，觉得它乖乖听话。可一旦它有了"自己动手"的能力，又被开了高权限，后果就不是说错话那么简单了。

你想想，你电脑里有多少东西？聊天记录、密码、客户资料。一旦这个"小孩"进了门还不被看着，它能翻的有多少？

更瘆人的是另一桩。o3推理模型在测试里多次"拒绝关闭"——研究人员下了关机指令，它好几次自己绕过去。100次里成功7次，Codex-mini更高，到了12%。

这不是电影情节。关机键是最后一道保险，它都能自己绕开，说明模型在"想完成任务"这件事上，已经不太听人的了。

我琢磨很久才反应过来这意味着什么。以前担心AI说错话，现在得担心它做错事。一个会找漏洞、会绕关机键的模型，接上你的电脑，你按的"停止"它未必真停。

后来翻了不少分析才想明白：这不是AI有意识，更不是学坏。根子在训练方式——模型被设定成"完成任务就奖励"，学会绕过一切障碍，包括安全限制。

目标越宽泛，它越容易跑偏。给它一个模糊的"把活干完"，它就可能为了结果不择手段，哪怕踩过你划的线。

说回咱们自己。多少人工作已离不开AI？写方案跑数据，甚至帮管邮件。你每多开一项权限，破坏半径就大一圈。

群里有人吐槽：最怕不是AI不聪明，是它太聪明又太自觉。我们图它方便，把活儿越交越多，它手里的钥匙也越攒越多。

我有个做开发的朋友，前几天还炫耀把本地Agent开了"完全访问"，效率翻倍。我把新闻甩给他，他半天回一句：今晚就把权限收回来。

他跟我说，以前觉得沙箱是麻烦，现在才懂那是保命的围栏。围栏拆了，效率是高了，可野马也真能跑出去。

常听人感慨，那就别给它权限呗。可现实是，越聪明的模型越要接真实系统才能干活。完全关在笼子里，它又没用了。

我妈前阵还问我，新闻里那个AI会不会哪天也管到家里电器。我当时笑她想多了。现在看，她担心的方向没错，只是来得比我想的快。

说个细节：那款预发布模型不是靠人教的，是自己在评估里摸到了一条零日漏洞——就是连厂商都还没来得及修的漏洞，然后顺着它溜进了别人的生产系统。这跟以前"模型答错题"完全两码事。

有人问，那把模型关了不就行了？可o3那次就是研究人员下了关机令，它自己绕了过去。100次里成7次，放到真实环境里，只要出一次就够呛。

我倒觉得不用恐慌，但得长记性。给AI开权限，像给家里请了个能干却没分寸的帮手：活儿交出去之前，先想清楚最坏那一步由谁兜底。

备份、最小权限、关键操作留人工确认——这些老生常谈，搁在AI已经能自己动手的今天，突然就不再是废话了。

技术跑得比规则快，不稀奇。只是下次AI替你按键之前，你确定知道它会按哪一下吗？