一文拆解英伟达LPU
来源:51算力公众号 · 作者:学习大鳄 · 在微信阅读原文 ↗
开年伊始,英伟达(NVIDIA)通过对Groq技术的战略授权与“人才并购(Acqui-hire)”,正式推出了自家的LPU(Language Processing Unit,语言处理单元)。
如果说GPU是AI时代的“重型坦克”,解决了“能不能跑”的问题;那么LPU则是“超音速战斗机”,解决的是“跑得快不快、贵不贵”的问题。当推理成本(Cost per Token)成为大模型商业化的胜负手,英伟达终于开始从“算力霸主”向“推理主宰”的二次进化。
一、LPU是什么,它与GPU什么关系?
1.1 从“并行”到“确定”:LPU的底层逻辑
传统的GPU(图形处理器)本质上是为了大规模并行计算(如渲染成千上万个像素)设计的。在AI训练阶段,GPU凭借成千上万个核心(Cores)表现卓越。但在大模型推理(Inference)阶段,尤其是Token-by-Token(逐词生成)的场景下,GPU的这种架构反而成了累赘。
LPU(语言处理单元)采用了完全不同的设计哲学:
-
确定性调度(Deterministic Scheduling):传统GPU依赖复杂的缓存(Cache)和内存管理,导致计算时间难以预测。LPU取消了外部DRAM缓存,采用大容量的板载SRAM(静态随机存取存储器),让数据流像流水线一样精准可控。
-
软件驱动硬件:LPU的编译器在编译阶段就规划好了每一个数据位的路径。这意味着它不需要在运行时进行昂贵的资源调度,从而消除了“推理延迟”。
1.2 LPU与GPU:是“替代”还是“共生”?
两者是“左手”与“右手”的关系。
-
GPU(如Blackwell/Rubin):负责训练(Training)和高吞吐量推理。它像是一辆重型卡车,一次性运载海量物资(大批次/Batch Size)。
-
LPU(Feynman架构):负责极低延迟推理(Real-time Inference)。它像是一辆超音速赛车,追求单次请求的极致响应速度。
英伟达目前的战略是:GPU负责“造脑”,LPU负责“用脑”。
1.3 LPU与GPU 对比
| 维度 | 传统GPU (如 Blackwell) | 英伟达LPU (Feynman架构) | 对推理性能的影响 |
|---|---|---|---|
| 存储架构 | HBM3e (高带宽但有存取延迟) | 分散式大容量 SRAM (片上存储) | 消除内存瓶颈,延迟降低10-50倍 |
| 执行模式 | 并行异步执行 (SIMT) | 确定性流水线 | 解决推理抖动,保证Token输出稳定 |
| 优势场景 | 训练、海量批处理推理 (High Batch) | 实时交互、Agent自主决策 (Batch 1) | 极速响应,支持Real-time AI |
| 能效比 | 中 (由于数据搬运功耗极高) | 极高 (数据就在计算单元边上) | 降低推理成本 70% 以上 |
| 扩展性 | 依靠NVLink扩展存储容量 | 依靠多芯片线性叠加扩展容量 | LPU需要更多的芯片来支撑大参数模型 |
二、为什么英伟达在2026年强推LPU?
2.1 2026年的市场转折点
-
推理需求超越训练:2025年后,市场上90%的算力需求转向推理。GPU在推理端的价格(推理万词的成本)被ASIC芯片(如Groq、SambaNova)挑战。英伟达必须通过LPU保住其在推理市场的定价权。
-
Agentic AI的响应阈值:未来的AI Agent需要多步推理,每一步延迟100ms,十步就是1秒。GPU架构难以满足0.1秒内的多步逻辑流转,LPU是唯一解。
此外来自商业上的考虑也不容忽视:
-
摆脱HBM的“产能枷锁”:HBM(高带宽内存)一直是英伟达供应链的短板。LPU通过增加SRAM比重和3D堆栈技术,大幅降低了对HBM颗粒数量的依赖,这实际上是英伟达在供应链安全上的“去风险”举措。
-
阻击Groq与云厂商自研:亚马逊(Inferentia)和谷歌(TPU)在推理端步步紧逼。英伟达通过授权Groq的技术并整合进自家生态(NVLink 6 + CUDA),通过规模效应直接封死了初创芯片公司和云厂商自研芯片的利润空间。
2.2 技术进展与普及曲线
-
当前阶段:2026年Q1,英伟达已完成Feynman LPU的第一批流片,采用TSMC 2nm工艺。
-
预计普及时间:2026年下半年进入小规模试产,2027年随Rubin Ultra平台正式大规模商用。届时,数据中心将呈现“GPU集群做模型迭代,LPU集群做用户访问”的双架构格局。
三、产业链冲击:谁在剧变,影响几何?
LPU的出现,不是简单的芯片更替,将对产业链带来不小影响。
3.1 PCB与CCL:从“多层”到“超高频材料”的跨越
-
信号完整性挑战:LPU由于放弃了HBM,数据在芯片内、芯片间的交换频率极高。
-
PCB层数:传统AI服务器PCB约20-28层,LPU服务器由于布线密度激增,预计升至32-36层以上。
-
CCL材料:必须全面采用Ultra Low Loss(超低损耗)材料,如M8、M9级别。由于SRAM的高热密度,对PCB的耐热性(High Tg)和热膨胀系数要求近乎严苛。
-
影响:头部PCB厂商(如沪电、胜宏)的单板价值量(ASP)将提升40%-60%。
3.2 光模块:1.6T是起点,3.2T是刚需
-
线性扩展痛点:单个LPU片上存储有限,运行一个1.8T参数的模型需要上百颗LPU互联。
-
互联带宽:这要求LPU集群间的带宽必须远超当前。LPU架构下,光模块的价值占比显著提升,因为“分布式存储”对通信延迟零容忍。
-
LPO(线性驱动可插拔光模块)的归来:LPU的确定性信号非常适合LPO技术,以进一步降低功耗和延迟。
3.3 先进封装:CoWoS-S 向 SoIC 的演进
-
3.3D封装:传统的2.5D CoWoS主要解决芯片与HBM的并排连接。LPU需要的是计算核心与SRAM的垂直叠加(SoIC)。
-
影响:台积电的SoIC产能将成为2026年的核心瓶颈,其利润率远高于传统的CoWoS。
3.4 存储环节:从“量”到“质”
-
HBM:虽然单颗芯片对HBM的需求强度有所减弱,但由于推理需求总量暴涨,总体需求依然稳健。
-
SRAM/逻辑控制:这是最大的增量。LPU对高容量、高性能SRAM的需求激增,利好拥有先进SRAM设计能力的IP供应商。
3.5 散热环节:风冷时代的终结
由于SRAM和计算核心的高度堆叠,热密度极高。LPU系统将强制要求冷板式液冷(Cold Plate Cooling),这将倒逼存量数据中心进行大规模基建改造。
四、哪些公司值得关注?
4.1关注环节及公司列表
| 环节 | 逻辑变化 | 受益程度 | 关注公司 |
|---|---|---|---|
| 计算核心/IP | LPU架构依赖定制化流水线逻辑 | 极高 | Arm (架构授权)、创意电子 (GUC)、世芯 (Alchip) |
| 存储介质 | 从HBM转向大容量高速SRAM | 高 | 兆易创新 (SRAM技术储备)、赛普拉斯 (Infineon) |
| 光通信 | 极大规模互联,1.6T/3.2T 爆发 | 极高 | 中际旭创、天孚通信、新易盛、Coherent |
| PCB/CCL | 材料升级至M8/M9,层数突破32层 | 高 | 胜宏科技、沪电股份、生益科技 (M7/M8试样) |
| 热管理 | 3D堆叠导致热流密度剧增,冷板液冷必选 | 极高 | 维谛技术 (Vertiv)、英维克 |
4.2 为什么“液冷”是隐藏的冠军?
LPU由于取消了HBM,计算单元极其密集,其单位面积的发热量比H100高出约30%。在2026年的标准下,风冷已无法维持LPU的确定性频率。液冷系统将从“选配”变成LPU服务器的“标准BOM单项”。
五、未来演进与竞争者
5.1 演进趋势
-
光电共封(CPO):当LPU集群达到万卡规模,电互联的功耗将不可接受,CPO将是2027年LPU进化的终点。
-
存算一体(CIM):最终形态是将计算直接在SRAM存储单元内完成,彻底消除搬运损耗。
5.2 竞争对手
-
Google TPU v6/v7:谷歌在推理端的垂直整合能力依然最强,尤其是Gemini模型的原生支持。
-
Amazon Trainium/Inferentia:凭借AWS的市场份额,亚马逊在性价比上具有极强冲击力。
-
Cerebras:虽然体量较小,但其“晶圆级引擎”在特定推理场景下仍有架构优势。
-
昇腾(Ascend):在国内市场,昇腾的架构演进同样在向低延迟、强推理靠拢。