新闻中心

  • Home
  • 华为的百万卡逻辑:从堆算力到组织算力

华为的百万卡逻辑:从堆算力到组织算力

AI越往上生长,越需要更厚的黑土地。 文 | 华商韬略 张静波 2026年9月17日,上海,华为全联接大会2026。 华为副董事长、轮值董事长汪涛发布昇腾960超节点:4096卡规模,8 EFLOPS FP8算力,1PB HBM容量,并首次在超节点中采用NPO光互联技术。 这是一个面向AI时代的新型计算系统。 但如果只是把它理解为一台更强的AI服务器,可能低估了这场发布的意义。 因为昇腾960超节点真正关注的,不是如何制造一张更强的卡,而是一个正在困扰整个AI产业的难题: 模型越来越大、卡越堆越多,有效算力却没有跟上。 【01 当堆卡不再等于堆算力】 过去几年,AI产业遵循一个极其简单的线性逻辑:模型规模扩大,需要更多算力;算力不足,就堆更多卡。 但大模型正在把这条路推向物理极限。 模型参数正快速迈向10万亿级,到2030年可能达到100万亿以上;中国每天推理Token需求已增长到500万亿级,未来将迈向百万万亿级;智能体(Agent)也将从今天连续工作几个小时,走向以月为单位执行复杂任务。 AI吞噬算力的速度,超过了历史上任何一次技术革命。 于是,产业开始疯狂堆算力:千卡、万卡、十万卡,甚至百万卡。但一个新的矛盾随之出现:算力规模越大,有效利用算力反而越难。 原因不在卡本身,而在卡之间。 传统AI集群,本质上是一群独立服务器通过网络协作。每台机器拥有独立的计算、内存和存储,机器间需要频繁交换数据。 当规模扩大到十万卡级别,通信、同步、数据搬运开始成为致命瓶颈。数据显示, 传统10万卡集群中,卡间通信可能占训练时间40%以上。 汪涛给出的数字更直观:“现在MFU(模型浮点算力利用率),一个10万卡的集群业界往往连30%都不到。” 这意味着,AI产业正在撞上一堵新的墙。过去,大家担心没有足够多的算卡。现在的问题是: 拥有更多卡,并不等于获得更多有效算力。 【02 百万卡时代,如何组织算力】 一台计算机,到底可以有多大? 过去几十年,这个边界一直很清楚。一台服务器就是一台计算机;多台服务器连起来,叫集群。 但当算力走向十万卡、百万卡,传统架构开始撞上高墙:机器越多,通信、同步和数据搬运的成本越高。 问题从如何获得更多算力,变成了如何组织更多算力。 过去,是让一群计算机通过网络协作;现在,是让它们在逻辑上更像一台更大的计算机。 这就像仓库调货,统一内存寻址,就是给所有仓库编上同一套货架号,机器仍然分散,资源却开始像一个整体。 这个方向也不是华为的一家之言。 WAIC 2026期间,鹏城实验室和全球计算联盟联合38家单位发布《超节点定义与实践白皮书》,给超节点立了标准: 具备跨物理节点的统一内存编址能力。 昇腾960超节点,是这套思路的最新落地。它的价值不只4096张卡,而在于华为把过去分散在计算、光通信、网络、存储和软件里的能力,拉进了同一个AI计算体系。 这件事,最难的是咬合问题。 算力单元快了,互联可能成为瓶颈;互联解决了,内存和存储又可能成为瓶颈;机器继续扩大,功耗、散热、可靠性和软件调度接着冒出来。 AI正在把过去分属于不同产业的技术边界一层层打穿。 最典型的是光。 随着高速互联继续升级,铜互联逐渐逼近极限,速率到224G以上,数千根铜缆捆在一起,信号质量和工程安装都成了灾难。 为此,华为把30年的光通信积累带进计算。 昇腾960采用Hi-ONE NPO光引擎,把电信号转成光信号的位置进一步靠近卡。 一个Hi-ONE的传输容量达到7.2T;整个昇腾960超节点用约5500个Hi-ONE,替代传统方案约4.8万颗800G光模块,功耗降低超过550千瓦,系统可用度达到99.8%。 但光解决的只是互联。 Agent又提出了新的问题。AI推理需要NPU,复杂任务执行需要CPU,长上下文又需要越来越庞大的KV Cache。 于是,鲲鹏和存储也被拉进同一个体系。 基于灵衢全光组网,鲲鹏超节点最大支持4096节点,形成256TB统一内存池;OceanStor M900承担PB级KV缓存。再往上,多个昇腾、鲲鹏和存储节点通过灵衢连接,相关集群架构最大支持向百万卡规模扩展。 这时候再看昇腾960超节点,逻辑已经完全不同了。 它不再只是多放一些卡,真正的考验在于,能不能把计算、光、通信、IP、内存、存储、网络和软件,变成一套彼此协同的系统。 这背后,需要复杂的多学科的系统工程的能力。 而华为过去几十年,用范弗里特弹药量,围着一个城墙口砸出来的,正是把分散的能力聚成系统。 汪涛将它概括为一句话: “把这些能力全聚成系统工程能力。” 结果已经可以部分量化。 华为马尔科夫实验室仿真显示,同样是10万卡规模,采用4K超节点组成集群,相比传统8卡服务器集群,MFU可以提升2.75倍。 截至目前, 昇腾超节点已经规模商用超过1000套。 这才是昇腾960超

about image

发表评论