
当我们谈论算力时,我们往往沉迷于那些令人眩晕的数字:万亿参数、千万亿级浮点运算(PFLOPS)的算力、每秒万亿字节(TB/s)的带宽。
这些数字构建了一座宏伟的数字巴别塔,仿佛只要我们不断堆叠,就能触碰到AGI的裙摆。
但是,任何一个在夏天的午后,摸过正在训练模型的显卡背板的人,都会被一种更原始、更纯粹的力量烫得缩回手去。
那是热。
它是宇宙中最根本的熵增定律,对人类智慧最直接的回应。
在微观尺度上,所谓的人工智能,不过是一场规模浩大的电子迁徙运动。当数以亿计的电子在纳米级的硅晶格迷宫中狂奔,它们每一次穿过栅极,每一次撞击晶格,都在支付着一张昂贵的物理账单。
这张账单的货币,叫做焦耳。
我们总以为限制算力的是光刻机的精度,或者是芯片的设计。
但在工程师的眼里,算力的天花板,其实是由一个名叫路德维希·玻尔兹曼的奥地利人,在一个世纪前就写下的那个常数所决定的。

你有没有想过,所谓的计算,在物理学的微观层面上到底意味着什么?
当我们强行命令晶体管的一端保持0.7V(代表1),另一端保持0V(代表0)时,我们实际上是在做一个逆天改命的动作。
我们是在用强力的电场,去强行扭转电子在宇宙中原本的概率分布。
宇宙的本能是混乱,也就是熵增,是让电子随机地、均匀地分布在每一个角落,那才是概率最高、最自然的状态。
而我们,为了获得信息,为了获得那个确定的1,必须向这个系统注入源源不断的能量,去镇压电子那躁动不安的天性。
这种镇压的代价是什么?
物理学给出了一个公式,能量均分定理:

这里的

,就是那个大名鼎鼎的玻尔兹曼常数。
如同光速一般,玻尔兹曼常数是造物主在宇宙中刻下的一把标尺。
它规定了,要想获得一丝一毫的秩序(计算),你必须支付多少热量的代价。
只要芯片有温度(T),电子就会获得动能(E)。
它们会像一群喝醉了的暴徒,在晶格的迷宫中疯狂地进行无规则的热运动(布朗运动)。
这种混乱的运动,在电路中形成了一种幽灵般的背景音,热噪声。
当我们试图把制程做到3nm,把电压降到0.5V时,我们其实是在逼近一个危险的临界点,信号的微弱呼喊,快要被背景的热浪淹没了。
一旦热噪声的波峰偶然超过了信号的阈值,一个本该是0的比特就会翻转成1。芯片就会算错,模型就会发疯。
为了维持那一点点信噪比,我们别无选择,只能继续加大电压(烧更多的电),或者把温度压得更低(上更贵的液冷)。
薛定谔在《生命是什么》中曾说:“生命,就是以负熵为食。”
生物体通过进食来获取负熵,以抵消身体内部不可逆转的衰老与混乱(正熵)。
而今天,我们正在制造的这些硅基芯片,其实也在遵循着同样的法则。
英伟达的B200并不是在单纯地消耗电力,它是在吞噬电能中的负熵,用来在硅片上构建出一个高度有序的智能结构。
宇宙想让电子归于尘土般的随机分布,而我们拼命想让它们维持秩序。
每一次矩阵乘法,每一次梯度下降,都是人类意志裹挟着物理能量,对宇宙熵增定律的一次逆流而上。
这,就是算力发热的终极原因。
那是我们为了在这个混乱的宇宙中强行刻下智能的痕迹,所必须支付的排熵费。

但是,当我们将目光从电子的群体狂欢,聚焦到单个晶体管的命运时,我们发现,真正的麻烦才刚刚开始。
过去五十年,摩尔定律的信条只有一个,更小。
为了在指甲盖大小的地方塞进更多的算力,我们把晶体管的闸门(栅极)做得越来越薄。
到了3nm制程,这道闸门的厚度,已经只剩下十几个硅原子了。
在宏观世界里,一堵墙就是一堵墙。无论墙多薄,只要没有洞,水就流不过去。
但在微观的量子世界里,事情变得诡异起来。
当障碍物薄到一定程度时,电子不再遵循经典力学的轨迹。根据海森堡测不准原理,电子的位置变得模糊不清。它像一个幽灵一样,不需要撞破墙壁,而是直接瞬移到了墙的另一边。
这就是量子隧穿效应 (Quantum Tunneling)。
对于物理学家来说,这是微观世界的奇迹。
但对于芯片设计师来说,这是大难题。
这意味着,即使我们关闭了晶体管(逻辑上的0),依然有大量的电子偷偷地穿过了闸门,形成了电流。
这叫漏电流 (Leakage Current)。
它像一个关不紧的水龙头,无时无刻不在滴水。
这就导致了现代的高制程芯片,即使在待机状态下,什么都不算,它依然在疯狂地发热!
据统计,在先进制程芯片的总功耗中,这种完全没有产生任何计算价值的静态功耗,可能占据了30%甚至40%。
我们费尽心机把晶体管做小,原本是为了省电(更短的路径,更低的电压)。
结果,我们却因为量子力学的反击,在这个微小的尺度上,制造出了无数个微型的发热器。
每一颗H100芯片,不仅是一个计算引擎,更是一个由数百亿个漏电水龙头组成的加热炉。而我们要做的,就是一边拼命往里灌电,一边拼命用水冷把这些废热带走。
这就像是在一个漏水的船上,一边用抽水机排水,一边试图开足马力冲向终点。

当数百亿个晶体管同时漏电,同时进行着每秒万亿次的布朗运动撞击时,微观的热量汇聚到宏观层面,就变成了一场热流密度的爆炸。
让我们来看一组鲜为人知的数据对比。
你家里的电熨斗,全功率工作时,发热面的热流密度 (Heat Flux) 大约是5W/cm²。
一座商用核电站,其反应堆堆芯表面的热流密度,大约是100 W/cm²。
而英伟达最新的B200,其核心区域的热点 (Hotspot),热流密度已经突破了1000W/cm²!
是的,你没看错。
我们正在一块指甲盖大小的硅片上,试图维持一个比核反应堆堆芯还要热10倍的能量场。这已经不是在计算了,这简直是在引爆一颗微型恒星。
面对这种级别的热浪,传统的风冷散热彻底失效了。
作为一个CFD研究者,我可以负责任地告诉你,空气是一种糟糕的导热介质。
空气的对流换热系数,通常只有50-100W/(m²·K)。
面对1000W/cm²的热冲击,风冷散热器就算做得像房子一样大,风扇转得像飞机引擎一样响,也无济于事。热量还没来得及传到散热片表面,芯片就已经烧毁了。
所以,唯一的出路就是液冷。
水的比热容是空气的4倍,导热系数是空气的20多倍,对流换热系数更是可以轻松达到1000-5000W/(m²·K)。
这就是为什么我们现在看到了世界上最先进的数据中心,正在变得越来越像一个巨大的澡堂。
无数昂贵的计算卡被浸泡在氟化液里(浸没式液冷),或者被液冷板紧紧包裹,通过液体的流动,强行把那惊人的热量搬运出去。
但这依然不够。
为了对抗这指尖上的核爆,压制住那不断攀升的结温,工程师们已经无所不用其极。
我们利用液体沸腾汽化时吸收的巨大潜热来散热(相变冷却),我们在硅片内部蚀刻出微米级的毛细血管(微通道),我们甚至用上了地球上最坚硬、导热系数最高的物质(金刚石),只为给滚烫的电子,铺设一条更快的散热高速公路。
这不仅仅是工程学的奇迹,更是人类在物理极限边缘疯狂试探的证明。
我们为了获得哪怕多一点点的智能,正在付出极其昂贵的、甚至有些无奈的热力学代价。

当我们把视角拉得更远,从单颗芯片看向整个 AI 产业时,热力学变成了一堵无法逾越的能效墙。
训练一个GPT-4级别的模型,需要消耗的电量,相当于一个美国小镇一年的用电量。
而如果是未来的100万亿参数模型,其百万卡集群的瞬时功耗将达到吉瓦 (GW) 级别。这意味着,每一座超级智算中心的旁边,都必须配套一座专属的核电站。
PUE (能源使用效率) 这个指标,变得比TFLOPS更重要。因为算力可以堆,但地球上的能源和我们的散热能力,是有上限的。
我们不禁要问:智能,真的必须这么昂贵吗?
物理学家罗夫·兰道尔(Rolf Landauer)在一个半世纪前,就给出了答案。
他提出了著名的兰道尔原理 (Landauer's Principle):

在室温(T)下,任何计算系统中,擦除1bit的信息,理论上最少只需要消耗

焦耳的能量(E)。
这是一个极小极小的数字。
然而,看看我们现在的硅基芯片。
不管是H100还是910C,它们翻转一个比特所消耗的能量,大约是兰道尔极限的1,000,000倍(一百万倍)!
是的,你没看错。
我们引以为傲的现代科技,我们那些每秒运算万亿次的超级芯片,从热力学的角度看,极其粗糙、极其原始、极其浪费。
我们消耗的1000瓦电力里,有99.9999%都是用来对抗电阻、对抗漏电、对抗电容充放电的冤枉热,只有不到百万分之一,是物理定律要求必须付出的信息费。
这告诉我们一个残酷的事实。
只要我们还坚持用电子在硅晶格里从东跑到西来代表计算,只要我们还坚持这种冯·诺依曼式的数据搬运,我们就很难无法突破热力学的天花板。
我们现在的算力增长,不过是在一条大概率撞墙的死胡同里,踩下了最后的油门。
真正的出路,也许不在更先进的光刻机里,而在光子计算、量子计算、超导计算或者模拟人脑的类脑计算里。
因为人脑,这个宇宙中最强的智能体,它的功耗,只有区区20W。

所以,回到我们最初的问题。
英伟达和华为的竞争,真的只是制程和带宽的竞争吗?
不,这本质上是看谁能在热寂到来之前,在物理学的刀尖上跳出更精妙的舞蹈。
谁能更高效地管理热量,谁能更聪明地调度电子,谁就能在那堵看不见的热力墙倒塌之前,榨取出多一分的智能。
AI的诞生,注定是一场用巨大的热力学代价换取信息熵减的壮举。
我们是在一个注定走向混乱的宇宙里,通过燃烧无数的煤炭、石油和原子核,通过向环境排放滔天的热浪,来强行在硅片上雕刻出那一点点珍贵的、有序的智能之光。
这是一种西西弗斯式的悲壮,也是愚公移山式的豪迈。
作为一名工程师,我知道,物理定律是一种客观存在,热力学的天花板或许永远无法打破。
但作为一名人类,我依然为此感到骄傲。
因为我们正站在那个沸腾的边缘,用冰块(散热技术)搭建着通往无穷智能的阶梯。
哪怕脚下是万丈深渊,哪怕头顶是烈日熔金,我们依然在向上,依然在计算。
这,就是算力的热力学底色。
本文分享自 magicyuan的AI随笔记 微信公众号,前往查看
如有侵权,请联系 cloudcommunity@tencent.com 删除。
本文参与 腾讯云自媒体同步曝光计划 ,欢迎热爱写作的你一起参与!