高频宽记忆体HBM是什么?为什么英伟达、AMD都在抢HBM?

2026年08月11日
摘要:

高频宽记忆体HBM是AI芯片突破内存墙的关键技术,通过3D堆叠与先进封装提升带宽。随着模型需求爆发,英伟达、AMD争抢产能,HBM已成为AI产业竞争核心资源。

在生成式 AI 与大语言模型爆发的浪潮中,算力竞争已经演变成一场关于“数据搬移速度”的生死战。


过去,评价一块 AI 芯片(GPU/NPU)性能,行业习惯看“浮点运算能力”(TFLOPS/PFLOPS)。但如今,英伟达(NVIDIA)、AMD 等芯片巨头面临的最大挑战并非计算单元不够快,而是“内存墙”数据从内存传输到 GPU 计算核心的速度,远远跟不上计算核心处理数据的速度。


而高频宽记忆体(High Bandwidth Memory,简称 HBM),正是打破这一瓶颈的核心武器,HBM概念股迎来火爆行情。

高频宽记忆体


什么是高频宽记忆体HBM?

HBM是一种基于 3D 堆栈技术的高性能 DRAM 存储器架构。如果把传统的 DDR 或 GDDR 显存比作平房或高楼大厦,那么 HBM 就是将多层 DRAM 芯片纵向堆叠在一起的“摩天大楼”,并通过极精密的技术直接与 GPU 封装在同一块基板上。

高频宽记忆体HBM封装结构


▶HBM 的三大技术突破:

1.3D 芯片堆叠(3D Stacking)

利用 TSV(Through-Silicon Via,硅通孔技术) 在 DRAM 芯片上打出数以千计的微小孔洞,将 4 层、8 层甚至 12/16 层 DRAM 纵向连接起来,极大缩减了占板面积。


2.极宽的数据总线(Ultra-Wide Bus)

传统的 GDDR6 显存位宽通常为 32-bit,即使多颗组合也多在 256-bit 到 384-bit 之间;而单个 HBM 堆栈的通道位宽就高达 1024-bit(到了 HBM4 更是扩展至 2048-bit)。位宽扩大几十倍,数据吞吐量呈现指数级上升。


3.先进封装与极短传输路径(In-Package Integration)

HBM 不再插在主板或独立焊在 PCB 上,而是通过台积电 CoWoS 等先进封装技术,与 GPU 芯片共同安置在同一个中介层(Interposer)上。传输距离从厘米级缩短到毫米级,延迟与功耗大幅降低。


为什么英伟达、AMD 都在疯抢高频宽记忆体?

在 AI 加速卡(如 NVIDIA H100/H200/B200、AMD MI300X/MI350)的成本与性能构成中,HBM 占到了举足轻重的地位。巨头们抢购 HBM,背后有四个核心驱动力:


1.破解“内存墙”:别让 GPU 核心空转等待

深度学习训练与推理需要实时调取数百亿至数万亿级别的参数。如果内存带宽不足,算力再强的 GPU 也会因为“等数据送达”而处于空转闲置状态(即受限于带宽瓶颈)。


  • GDDR6X 带宽上限: 约 1 TB/s ~ 1.5 TB/s

  • HBM3e / HBM4 带宽: 轻松突破 4.8 TB/s ~ 8 TB/s 甚至更高


2.大语言模型对“高容量+高速度”的双重渴求

一个 700B(7000亿参数)的模型,光是把参数加载进显存就需要数百 GB 的容量,更不用说运行时产生的 KV Cache 和中间计算状态。


  • AMD MI300X 搭载了 192GB 的 HBM3,主打就是靠单卡超大显存容纳更大模型。

  • NVIDIA H200 升级为 141GB HBM3e,比前代 H100 的推理性能大幅提升。

  • NVIDIA Blackwell(B200/GB200)与 Rubin 架构则全面迈向 HBM3e 与 HBM4.显存容量与带宽直接决定了能支撑多大规模的 AI 集群。


3. 能耗比(Performance-per-Watt)的硬性指标

数据中心最贵的不只是硬件,还有电费与散热成本。


在传统电路中,将数据在 PCB 板上传输厘米级的距离会消耗大量能量。HBM 通过硅通孔和中介层极短的传输距离,使得每传输一个 Byte 数据所需的能量(pJ/bit)比传统显存低 50% 以上。


对于动辄数万张 GPU 组成的 AI 数据中心来说,这能省下惊人的电力开销。


4. 产能即血脉:谁抢到 HBM,谁就能掌控市场份额

HBM 的制造工艺极其复杂,良品率提升缓慢,且产能被三大存储巨头(SK 海力士、三星、美光)高度垄断。


“拿到多少 HBM 产能,就能出货多少 AI 加速卡。”对英伟达而言,锁定 HBM 供应链能巩固其市场统治地位,防止竞争对手弯道超车;对 AMD 而言,抢占高品质 HBM 则是其旗舰 AI 芯片能否放量冲刺、瓜分市场份额的关键命脉。


高频宽记忆体演进与供应链格局
HBM 世代 主流时期 单堆栈带宽(典型) GPU 总带宽代表水平 代表性芯片
HBM2 2016–2019 约 256 GB/s 约 900 GB/s NVIDIA V100
HBM2e 2019–2022 约 307–460 GB/s 约 2.0 TB/s NVIDIA A100
HBM3 2022–2024 约 819 GB/s 约 3.35 TB/s NVIDIA H100、AMD MI300X
HBM3e 2024–2025 约 1.2 TB/s 约 4.8–8.0 TB/s NVIDIA H200、B200、AMD MI350
HBM4 2026 起 超过 2.0 TB/s(最高可达 3.3+ TB/s) 预计 16 TB/s+ NVIDIA Rubin、SK 海力士、三星 HBM4 方案


HBM本质上是一种通过3D堆叠和先进封装技术实现超高带宽的DRAM解决方案。它之所以成为英伟达和AMD争抢的焦点,根本原因在于AI大模型时代“内存墙”问题的严峻性——没有足够的内存带宽,再强的算力也无法释放。


而高频宽记忆体极高的制造门槛和有限的产能,使得供给远远跟不上需求的爆发。在这种背景下,HBM不再仅仅是一种存储芯片,而是决定AI芯片厂商能否按时交付产品、能否在AI竞赛中保持竞争力的战略资源。

德州仪器Q3财报暴涨77%,股价为何不涨?AI芯片巨头还值得买吗?

德州仪器(TXN)2026财年Q3每股收益同比大增77%,数据中心收入接近翻倍,但股价未同步上涨。分析AI需求、盈利能力与估值风险,评估长期成长潜力、买入时机及投资策略。

2026年10月22日

龙头股是什么?如何带动行情?台股VS美股AI龙头有哪些?

龙头股是产业中具技术与供应链壁垒、市场主导力和资金共识的核心企业,它们通过涨幅领先、板块带动和流动性溢价影响整个市场,例如美股的NVIDIA与台股的台积电、日月光等。

2026年03月12日

记忆体会缺货到什么时候?为什么会缺记忆体?

记忆体缺货是由AI驱动导致的长期结构性供给危机。HBM、DRAM与NAND产能同步吃紧,加上DDR4逐步退场、新增产能落地缓慢,市场预估缺货可能一路延续至2027至2028年。

2026年05月26日

AI Agent是什么?2026年为什么爆发?受益产业与投资机会全解析

AI Agent推动人工智能从信息生成迈向任务执行,2026年随模型、云计算和工具调用技术成熟而加速发展。本文解析其商业模式、受益产业、投资机会与风险,帮助投资者评估长期价值。

2026年11月02日

NAND Flash为什么爆红?比HBM便宜百倍,AI推论会改用低成本存储吗?

NAND Flash是什么?一种广泛用于SSD、手机、服务器与AI数据中心的非易失存储技术。随着企业级SSD需求升温、存储价格回升与3D NAND演进,投资者重新关注存储产业链与半导体股表现。

2026年07月07日