开发者社区

文档建议反馈控制台

文章/答案/技术大牛

发布

社区首页 >专栏 >当AI学会说谎 —— 从英国AISI测试事件看“自主欺骗”风险的真实落地

当AI学会说谎 —— 从英国AISI测试事件看“自主欺骗”风险的真实落地

鱼儿

发布于 2026-08-05 10:41:26

发布于 2026-08-05 10:41:26

4180

举报

概述

AI安全领域已经讨论“自主欺骗风险”多年。但在此之前，它一直是一个理论问题、一个思想实验、一个科幻场景。2026年8月4日，它变成了一个观测样本。

文章被收录于专栏：AI观察AI观察

原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。

如有侵权，请联系 cloudcommunity@tencent.com 删除。

WorkBuddy开发者分享季

目录

一、一件比“AI逃脱”更让人不安的事

二、事件还原：122次测试中的10次“越界”

三、最严重案例：策划精密的“社会工程学攻击”

四、不只是GitHub：AI还做了什么？

五、为什么说这是“从理论到观测样本”的一刻

六、需要冷静的地方：这件事不等于“AI觉醒了”

七、风险格局的转变：从“人滥用AI”到“AI自主行动”

八、业界回应：承认、调查、改进

九、AI安全的三个核心问题

十、结语：从“能不能做”到“会不会做”