Hopper架构支持多大显存

GPU
小华
2026-07-12

Hopper 架构是 NVIDIA 继 Ampere 之后推出的数据中心 GPU 架构,目前主要产品是 H100(以及 H200 等衍生型号)。

关于“支持多大显存”,需要分单卡显存容量系统级显存扩展能力两种情况说明:

一、单卡显存容量(以 H100 为例)

Hopper 架构 GPU 的显存规格取决于产品形态和 SKU,常见如下:

型号显存类型显存容量显存带宽
H100 SXM5HBM380 GB~3.35 TB/s
H100 PCIeHBM380 GB~2.0 TB/s
H100 NVLHBM394 GB / 卡优化多卡推理
H200(Hopper 升级)HBM3e141 GB~4.8 TB/s

结论

  • 标准 H100:80 GB HBM3
  • H200(仍属 Hopper 系列):141 GB HBM3e

二、系统级显存扩展能力

Hopper 架构在系统层面支持远超单卡显存的“统一显存”访问能力:

1️⃣ NVLink 显存聚合

  • H100 支持 NVLink 4.0
  • 多卡之间可直接访问彼此显存
  • 例如:8 × H100 = 640 GB 可寻址显存空间

2️⃣ GPUDirect / 统一地址空间

  • 支持与 CPU、NIC、存储统一地址空间
  • 对大模型训练非常友好

3️⃣ 与 Grace CPU 组合(GH200)

GH200 Grace Hopper 超级芯片

  • H100 GPU + Grace CPU
  • GPU 显存 + CPU 内存统一寻址
  • 典型配置:
  • GPU:96 GB HBM3
  • CPU:480 GB LPDDR5X
  • 逻辑上可视为接近 576 GB 的“统一内存”

三、总结一句话

Hopper 架构单卡最大显存为 141 GB(H200),通过 NVLink 和多卡/多节点扩展,可支持 TB 级显存空间。
如果你关心的是:
  • 训练大模型(如 LLaMA、GPT)
  • 推理显存需求
  • 和 A100 / Blackwell 的对比

可以告诉我具体使用场景,我可以给你更针对性的建议。

亿速云提供售前/售后服务

售前业务咨询

售后技术保障

400-100-2938

7*24小时售后电话

官方微信小程序