温馨提示:文本由机器自动转译,部分词句存在误差,以视频为准
00:00
谷歌云发布gemini agent说一个提示框一个API就能覆盖问答、写代码、做媒体,还能跨应用后台干活。听起来像给企业装了个万能遥控器。第一,价格和价值之间留下缓冲,情况比预想更差时仍能承受结构两步,先估计价值,再要求买价明显更低,缓冲不够就放弃。万能遥控器最危险的地方是他真能按下去,你按下之后谁负责?权限从哪来?错了怎么停?这些问题不解决,能力越大越小,事故放大器我们试过让智能体跨系统跑流程。模型路由、身份权限工具调用、后台任务连接器,每个环节单独看都还行,串起来就到处漏风。所以真正的问题不是他会不会做,而是他作案之前,你能不能一直知道他在做什么?用了谁的权限,花了不少钱,错了谁来动?对,不是在封装一层聊天框,而是统一管理企业上下文、身份权限工具调用和执行治理,要的是在边界内持续可靠的把事做完。
01:27
因为这条链上任何一环单独优化都可能让整体更脆。系统思维不是把模块画在一起,而是承认他们共享同一套状态、权限和失败后,安全编辑就是别让自动化跑在裸奔的权限上。最小权限、敏感操作、审批执行、沙箱审计追踪、超市重试、成本上限,一个都不能少。比如员工出差报销,智能体要读邮件、查差旅标准,连财务系统填单、提交审批,每一步都怕系统,每一步都可能出错或被滥用。真正原因不是模型不够聪明,而是执行链没有统一治理。模型可以换,工具可以加,但权限、状态和审计如果各管各的,系统迟早。
02:27
失控盲区是我们总盯着他会不会做,却忘了问他做完之后账能不能对上,权限有没有越界,失败能不能回滚,这些才是企业真正买单的地方。系统思维和安全边际也有边界。他们不能替你定义业务目标,也不能保证模型永远正确,他们只保证一件事错了代价可控且能被发现。第一,选一个有明确验收标准的跨系统流程做闭环,别一上来就全铺,第二,先定最小权限和审批点,再谈自动化,第三,把审计超时、重试和成本上限写进流程。企业级智能体的竞争力不在会做多少事,而在于能否在可控边界内持续可靠的把事情做完。先边界能力。
03:28
如果明天你的智能体真能跨所有系统干活,你敢不敢让他直接提交一笔付款?你现在的权限审计和回滚撑得住这一项吗?你问他能做多少?先问他做错时你还能不能睡得着?
我来说两句