首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏新智元

    GPT-4没有意识!但图灵奖得主Bengio等88页论文暗示「天网」迟早降临

    GWT-3:全局广播,工作空间的信息可被所有模块访问。 GWT-4:状态依赖的注意机制,可以顺序调动模块完成复杂任务。 一个AI系统如果具备这些特征,就更有可能具有类似人类的意识。 一些指标相互依赖,例如GWT-3和GWT-4都依赖于GWT-1和GWT-2。 一些指标独立存在,例如RPT-2与RPL-1基本独立。 对于指标GWT-3,即全局广播,在GWT中的基本要求是所有模块都以工作空间表征作为输入。 这意味着必须有一些机制确保所有模块都能使用这些输入。 考虑到残差流的概念,可以认为Transformer拥有指标属性GWT-1到GWT-3,即它们具有模块、容量有限的工作空间引入了瓶颈,并且全局广播。

    78920编辑于 2023-09-09
领券