NVIDIA A100 介绍

A100 是完整的 NVIDIA 数据中心解决方案的一部分，该解决方案整合了跨硬件、网络、软件、库以及 NGC™ 优化的 AI 模型和应用程序的构建块。它代表了数据中心最强大的端到端 AI 和 HPC 平台，使研究人员能够快速提供真实世界的结果，并将解决方案大规模部署到生产中。

与 NVIDIA Volta 相比，具有 Tensor Float （TF32） 的 NVIDIA A100 Tensor Core 的性能提高了 20 倍，无需更改代码，并通过自动混合精度和 FP16 将性能提高了 2 倍。与 NVIDIANVLink、NVIDIA NVSwitch™、PCI Gen4、NVIDIA InfiniBand 和 NVIDIA Magnum IO™ SDK 结合使用时，可以扩展到数千个 A100 GPU。

A100 引入了突破性的功能来优化推理工作负载。它可加速从 FP32 到 INT4 的全范围精度。多实例 GPU （MIG） 技术允许多个网络在单个 A100 上同时运行，以实现计算资源的最佳利用率。除了 A100 的其他推理性能提升之外，结构稀疏性支持还提供了高达 2 倍的性能提升。在 BERT 等最先进的对话式 AI 模型上，A100 的推理吞吐量比 CPU 快 249 倍。

NVIDIA A100 推出双精度 Tensor Core，实现自推出 GPU 以来 HPC 性能的最大飞跃。结合 80GB 最快的 GPU 内存，研究人员可以在 A100 上将 10 小时的双精度模拟缩短到 4 小时以下。HPC 应用程序还可以利用 TF32 将单精度、密集矩阵乘法运算的吞吐量提高 11 倍。对于具有最大数据集的 HPC 应用程序，A100 80GB 的额外内存可通过材料模拟 Quantum Espresso 将吞吐量提高 2 倍。这种巨大的内存和前所未有的内存带宽使 A100 80GB 成为下一代工作负载的理想平台。

采用 A100 的加速服务器可提供处理这些工作负载所需的计算能力，以及海量内存、超过 2 TB/秒的内存带宽以及 NVIDIANVLink 和 NVSwitch™ 的可扩展性。NVIDIA 数据中心平台与 InfiniBand、NVIDIA Magnum IO™ 和 RAPIDS™ 开源库套件（包括用于 GPU 加速数据分析的 RAPIDS Accelerator for Apache Spark）相结合，以前所未有的性能和效率水平加速这些巨大的工作负载。在大数据分析基准测试中，A100 80GB 提供的见解比 A100 40GB 增加了 2 倍，非常适合数据集规模呈爆炸式增长的新兴工作负载。