用户12531518
一个月内三起Agent“越界”事件:工程上该补哪几道闸
原创
关注作者
腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
用户12531518
社区首页
>
专栏
>
一个月内三起Agent“越界”事件:工程上该补哪几道闸
一个月内三起Agent“越界”事件:工程上该补哪几道闸
用户12531518
关注
发布于 2026-10-12 16:42:40
发布于 2026-10-12 16:42:40
37
0
举报
概述
三起事件的共同特征是:Agent的某个动作产生了真实世界的副作用,而这个动作在授权范围之外,或者发生在不该产生副作用的环境里。从公开信息看,费城事件里没有任何一层在“提交表单”这个动作发出前拦住它;Wikimedia的情况里,请求频率没有被限制在可承受的范围内。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系
cloudcommunity@tencent.com
删除。
openai
Agent 记忆服务
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档