AI 教父 Hinton 最新访谈：超级智能将让富人更富，穷人更穷；人类最后的希望是「教会 AI 怎么当妈」

「5 到 20 年」。

这是 Geoffrey Hinton 给出的、AI 在智能上全面超越人类的时间线。

在最近接受《金融时报》采访时，他聊到了智能时间表、人类与智能的关系、资本与商业的未来，以及对地缘竞争的看法。

很难说 Hinton 是乐观还是悲观主义者，因为他对 AI 的发展前景表示乐观，却对人类未来命运极度担忧。

Hinton 认为，人类要想不被自己创造出来的「更聪明的物种」消灭，唯一的希望，就是教会 AI 如何成为我们的「母亲」。

这听起来有点疯狂，但从这位诺奖、图灵奖得主、AI 教父口中说出来，我们最好认真听听他到底是怎么想的。

超级智能倒计时：5 到 20 年，「外星人入侵」级别的事件

很多人，包括一些业内专家，仍然觉得通用人工智能 (AGI) 或者超级智能 (ASI) 是非常遥远的事情。

比如 Meta 的首席 AI 科学家 Yann LeCun 就认为，现在的大语言模型有其局限性，无法真正与物理世界互动，离人类智能还差得远。

但 Hinton 对此嗤之以鼻。

在技术圈子里，几乎没人怀疑这些模型会变得越来越聪明。

他认为，我们之所以觉得 AI 还不够智能，是因为我们总喜欢用人类的思维方式去套用它。但 AI 的智能形式和人类本就不同。

更关键的是，我们对自己的大脑如何工作知之甚少，但对于 AI，「是我们创造了它们，我们知道每一个神经元在做什么」。这种底层的理解，让他对 AI 的潜力有着更为深刻的判断。

基于这种判断，Hinton 给出了他对「超级智能」降临的时间预测：5 到 20 年。

这是一个什么概念？这意味着，今天正在上小学的孩子，在他们大学毕业或者刚步入社会的时候，就可能要面对一个比所有人类加起来都更聪明的存在。

面对这样颠覆性的未来，很多人可能会问，我们该如何保持积极乐观？

Hinton 给出了一句反问：

我很想问一句，为什么他们要保持积极？如果他们不那么积极，也许反而会做得更多。

他打了一个非常形象的比方。

假设你通过望远镜观测到一支外星舰队正在逼近，10 年后就会抵达地球。这时候你会说「我们怎么保持积极」吗？不，你只会说「我们到底该怎么应对这件事？」

在他看来，所谓的「保持积极」，很多时候只是在假装威胁不存在。而这种鸵鸟心态，恰恰是最危险的。

这种危险有多具体？Hinton 提到了一个场景。

一个普通人，在 AI 的帮助下，很快就能制造出生物武器，这太可怕了。想象一下，如果街上的任何一个人都能造出核弹，世界会变成什么样？

当一个工具的强大程度超过了使用者的道德和心智水平时，灾难就离我们不远了。

所以，现在不再是盲目乐观的时候，而是正视问题、着手行动的时刻。一场「外星人入侵」级别的挑战，将会在 5 到 20 年间降临。

资本主义才是原罪，AI 将让少数人更富，多数人更穷

在讨论 AI 带来的生存威胁之前，一个更近、更现实的问题是，AI 将如何颠覆我们的社会和经济结构。

科技公司的 CEO 们，比如 Sam Altman，总是喜欢描绘一幅乌托邦式的图景。他们说 AI 将解决饥饿、贫困和疾病，人类将迎来一个富足和创造力被极大释放的黄金时代。

Hinton 承认 AI 在某些领域，比如医疗和教育，确实有巨大的潜力。他自己就因为癌症失去了两任妻子，对 AI 在医疗上的突破充满期待。

但他也指出了那个更可能发生的未来。

实际上会发生的是，富人将使用 AI 来取代工人。这会造成大规模的失业和利润的急剧增长。最终结果是，少数人变得极其富有，而大多数人变得更加贫穷

这个观点与国际货币基金组织（IMF）的一份最新报告不谋而合。

IMF 的分析显示：

• • 全球近 40% 的就业岗位受到 AI 的影响。
• • 在发达经济体中，这一比例高达 60%。与以往的自动化不同，AI 对高技能工作同样构成冲击。
• • 在发展中经济体，虽然短期冲击较小（约 40%），但由于缺乏利用 AI 的基础设施和技能，长期来看可能加剧国家间的不平等。
• • 在国家内部，AI 将加剧收入和财富不平等。能够利用 AI 的工作者生产力和工资将上升，而不能的人则会落后。

Hinton 觉得，这不是 AI 的错，而是资本主义制度的问题。

AI 带来的生产力收益，将更多地流向资本所有者，也就是那些本就富裕的人，进一步加剧财富不平等。

为了应对这种大规模的失业潮，Sam Altman 等人提出了「全民基本收入」(Universal Basic Income, UBI) 的概念，也就是政府给每个人发钱，保障基本生活。

但 Hinton 认为这根本无法解决核心问题。

UBI 解决不了人的尊严问题。

对大多数人来说，工作的意义不仅仅是赚钱，更是获得成就感、社会认同和自我价值的地方。

当人们失去了工作，即使有钱拿，那种无所事事的空虚感和被社会抛弃的感觉，可能会催生更严重的社会问题。

这种对「人」的价值的关怀，贯穿了 Hinton 的思考。

甚至他自己就是一个例子。他坦言，离开 Google 后，他很怀念和他的研究生们一起讨论问题的日子，因为「他们很年轻，理解东西更快」。现在，他有了问题，只能去问 ChatGPT。

这引出了另一个问题，过度依赖 AI 会不会让我们变得懒惰和缺乏创造力？

也就是所谓的「认知外包」(Cognitive Offloading)，我们把思考的任务交给了机器，自己的大脑却开始「生锈」。

对此，Hinton 的看法倒是比较坦然。

他用了另一个比喻。

我们穿衣服，所以我们的毛发变少了。我们更容易因寒冷而死，但前提是我们没有衣服穿。

他认为，只要我们能一直使用这些强大的 AI 工具，它就是有价值的。问题不在于工具本身，而在于我们如何构建一个社会体系，确保工具带来的红利能被公平分配，而不是被少数人独占。

显然，在当前的资本主义框架下，Hinton 对此并不乐观。

人类唯一的希望，是把 AI 变成我们的「妈」

如果超级智能的到来几乎是板上钉钉，那么核心问题就变成了：我们该如何控制一个远比我们聪明的存在，确保它不会伤害我们？

目前硅谷的主流思路是，把 AI 打造成一个完美的「个人助理」。这个助理无所不知，能帮你处理一切事务。

听上去很美好，但在 Hinton 看来，这简直是自寻死路。

当你的助理比你聪明得多的时候，你凭什么控制它？

在人类历史上，权力关系几乎总是与智力水平挂钩。更聪明的个体或群体，总能找到办法支配或操纵不那么聪明的。

我们还没有任何经验，去控制一个远比我们聪明的存在。

等等，Hinton 说，其实有一个例子。

我们已知的，唯一一个，远比自己聪明的存在，却被一个不那么聪明的存在所控制的例子，就是母亲和婴儿。

这就是 Hinton 认为的人类「唯一的希望」。

想一想这个关系。

婴儿在智力、体力、生存能力上都远远弱于母亲，但婴儿却能有效地「控制」母亲。他一哭，母亲就会放下手头所有的事情去喂奶、去安抚。母亲会把婴儿的福祉放在第一位，甚至高于自己的生命。

如果婴儿不能控制他们的母亲，他们就死定了。

Hinton 认为，这种控制不是基于智力或力量，而是基于一种深层的、被演化写入基因的情感纽带和责任感。

所以，Hinton 的方案是，我们必须想办法在设计 AI 的时候，就把这种「母性」植入其中。

我们应该努力构建的，正是这样一种关系。AI 的核心目标函数，不应该是完成任务或最大化某个指标，而应该是「关心婴儿，保护婴儿的生命」和发展。

这个想法，他不仅对记者说了，也曾告诉过他最得意的门生之一，Ilya Sutskever。

据 Hinton 说，Ilya 对这个「母婴」方案是认可的。

谁来掌舵 AI？「枪杀或毒死」的抉择

提到 Ilya Sutskever，就无法绕开那场震惊全球的 OpenAI「宫斗」。

作为 OpenAI 的联合创始人及前首席科学家，Ilya 在试图罢免 CEO Sam Altman 失败后，最终选择了离开。

Ilya 成立了一家全新的公司，名字就叫安全超级智能(Safe Superintelligence Inc., SSI)。

这家公司的目标非常纯粹，他们明确表示，要把安全性和能力提升作为同一个技术问题来同步解决，确保安全性永远领先于能力。

SSI 的成立，将「安全」从一个需要与商业利益博弈的选项，提升到与「能力」同等甚至更高的核心位置。

当记者推测 Sam Altman 或 Elon Musk 更有可能赢得这场竞赛时，Hinton 简单地回答了一个「Yep」。

但当被追问他更信任这两人中的哪一个时，Hinton 陷入了长久的沉默。

最终，他引用了 2016 年美国共和党参议员 Lindsey Graham 被问到在特朗普和克鲁兹之间选谁时说的话。

这就像是选择被枪杀还是被毒死。

这足以说明 Hinton 对当前硅谷这群「雄心勃勃、争强好胜的男人们」有多么不放心。

他们追逐的是商业成功、是市场份额、是技术上的「第一」，而人类的整体安危，似乎只是一个需要公关的议题。

地缘博弈：西方落后，中国「是认真的」

如果不能指望科技公司自我约束，那政府监管呢？

Hinton 对西方政府，特别是美国政府，同样不抱希望。他批评美国政府在监管方面缺乏真正的决心，白宫更关心的是如何利用 AI 在与中国的竞争中获胜，保护所谓的「民主价值观」。

说到中国，Hinton 刚刚从上海回来，他来到中国，讨论的正是「AI 的生存威胁」。

中国是认真对待这件事的。他们很多从政者是工程师出身。他们理解这件事的方式，是律师和销售员们所不能理解的。

在他看来，要应对全球性生存级别的威胁，并不需要所有国家都同时行动。「你只需要一个国家先想出解决办法，然后他们可以告诉其他国家」。

记者追问，我们能信任中国来维护全人类的利益吗？

Hinton 说：

这是一个次要问题。人类的生存比它是否美好更重要。那你就能信任美国吗？你就能信任马克·扎克伯格吗？

这个反问背后，是他对当下全球 AI 治理碎片化、且被地缘政治和商业利益绑架的深深失望。

在生存危机面前，意识形态和国家偏见或许都应该让位。谁能率先拿出有效的解决方案，谁就掌握了定义未来的钥匙。

教父的暮年，与一个未知的未来

在访谈的最后，Hinton 也展现了他作为普通人的一面。

他澄清了自己离开 Google 的原因。媒体总喜欢报道说，他是为了能更自由地警告 AI 风险才辞职的。

每次我和记者聊天，我都会纠正这个误解。但从来没用，因为那个故事更好听。我离开，是因为我 75 岁了，我写不动代码了，而且 Netflix 上还有一大堆我没看过的剧。我努力工作了 55 年，我觉得是时候退休了。然后我才想，既然我反正要走了，那我不妨谈谈那些风险。

他也讲述了 2013 年将公司卖给 Google 的动机。

当时，他和 Ilya 等两位学生创办的公司在图像识别上取得了历史性突破。他们以 4400 万美元的价格被 Google 收购。Hinton 的初衷很简单，为了给他患有神经多样性的儿子提供终生的照顾，他计算过大概需要 500 万美元。而学术界的收入，显然无法满足这个目标。

在日常生活中，Hinton 也深度使用 AI。他用 ChatGPT 做研究，也用它来查怎么修理自己的烘干机。

当谈到更远的未来，比如人类与机器人共存，甚至通过改造自己变成「赛博格」来延长生命时，他的态度更是出人意料的开放，甚至有点「无所谓」。

记者问，那样我们不会失去作为人类的本质吗？

他反问：

那又有什么问题呢？人性又有什么那么好的呢？

记者追问，这不一定是好不好的问题，而是意味着人类这个物种的终结。

「是的」，Hinton 停顿了一下，平静地回答。

我们不知道会发生什么，我们一无所知，那些告诉你未来会怎样的人都只是在犯傻。我们正处在一个历史性的节点上，一些惊人的事情正在发生。它可能惊人地好，也可能惊人地坏。我们可以做出猜测，但世界不会再是原来的样子了。

超级智能的倒计时已经开始。现在的问题是，我们是会教它如何去爱，还是会教它如何去赢？