温馨提示:文本由机器自动转译,部分词句存在误差,以视频为准
00:00
从控制论的角度来讲,人为什么依然还非常关键?这里面我讲叫人在环中human in the loop, 这意味着什么呢?人类啊,并非被取代,而是在关键节点介入,成为整个agent运行体系中不可或缺的最后一道防线,或者是智慧修正者。那什么概念呢?首先我们agent AI在执行的时候会遇到一个无法收敛的问题,也就是说agent会陷入逻辑循环,或者是无法自主推导有效结论时,必须提靠我们人类提供关键线索,打破执行的一个僵局。第二个是边界触碰。那么系统检测到违反安全红线或业务规则或者是道德准则的时候,会自动触发暂停,这时候必须交给人类进行合规性裁决。第三,意图性变更。外部环境和业务目标发生动态调整,原有的路径失效了,人类需要重新校准方向,赋予系统新的执行指令。
01:11
所以我讲呀,虽然说在agentic al里边,我的整个343治理架构里边,并没有说否定人的关键作用,我们依然要当裁决者,约仲裁者,所以呼吁们因在物浦依然非常重要,这是从洪中论的角度得出的结论。
我来说两句