芯片圈变天了：英伟达推出首个CPU，狂捧Arm生态

　　4 月 13 日报道，今日凌晨，一年一度影响人工智能及高性能计算技术盛会 NVIDIA GTC 如期而至，这是 GTC 大会继去年后第二次在线上举行。

　　NVIDIA(英伟达)创始人黄仁勋依然穿着拉风的皮衣，在自家厨房举办发布会。可以明显看到，老黄的头发更白了，也更长了。

　　去年 NVIDIA 重磅发布旗舰 A100 GPU 以及一系列服务器、集群、超算，轰动整个人工智能领域，如今，老黄带着一系列软硬件新品高调回归。

　　万万没想到，这一次，全球 GPU 霸主 NVIDIA 推出了一款基于 Arm 的数据中心 CPU！

　　在宣布 400 亿美元收购 Arm 的 6 个月后，NVIDIA 连发三款基于 Arm IP 打造的处理器，包括全球首款专为 TB 级加速计算而设计的 CPU NVIDIA Grace、全新 BlueField-3 DPU，以及业界首款 1000TOPS 算力的自动驾驶汽车 SoC。

　　我们每年都会发布激动人心的新品。三类芯片，逐年飞跃，一个架构。黄仁勋说，数据中心路线图包括 CPU、GPU 和 DPU 这三类芯片，而 Grace 和 BlueField 是其中必不可少的关键组成部分。每个芯片架构历经两年的打磨周期(周期内可能出现转变)，一年专注于 x86 平台，另一年专注于 Arm 平台。

　　此外，NVIDIA 还公布了与亚马逊 AWS、Ampere Computing、联发科和 Marvell 等基于 Arm 的 CPU 平台的合作伙伴关系。

　　在软件方面，超大规模语言模型训练与推理问答引擎 Megatron、实时对话式 AI 平台 Jarvis、AI 网络安全框架 Morpheus、Omniverse 企业版、由 GPU 加速的量子电路模拟框架 CuQuantum 等一系列最新进展首次揭晓。

　　显然，面向数据中心异构计算的新天地，NVIDIA 正集合软硬件技术优势，打出高调的组合拳。

　　一、3 款自研 Arm 芯：首颗数据中心 CPU 落地全球最快 AI 超算

　　此次发布会令人最印象深刻的，就是 NVIDIA 在助推 Arm 生态方面不遗余力，从自研 CPU、DPU、自动驾驶处理器到 GPU 的合作伙伴，从云、高性能计算、边缘计算到 PC，无处不 Arm。

　　先来看下这次发布的五款硬件新品：

　　1、首颗数据中心 CPU：落地全球最快 AI 超算

　　黄仁勋宣布的第一个重磅新品，是一款专为大规模人工智能和高性能计算应用而设计的 CPU&mdash；&mdash；NVIDIA Grace。

　　绝大多数的数据中心仍将继续使用现有的 CPU，而 Grace 主要将用于计算领域的细分市场，预计将于 2023 年可供货。

　　由于超大规模的模型很难完全放进 GPU 内存，如果存储在系统内存，访问速度则会大大受限，这款 CPU 的问世主要即是为了解决这一瓶颈。

　　NVIDIA Grace 以发明了世界上第一个编译器、被称为计算机软件工程第一夫人的先驱计算机科学家 Grace Hopper 命名，具体有 3 点创新进步：

　　(1)内置下一代 Arm Neoverse 内核，每个 CPU 能在 SPECrate2017_int_base 基准测试中单位时间运行超过 300 个实例；

　　(2)采用第四代 NVIDIA NVLink，从 CPU 到 GPU 连接速度超过 900GB/s，达到相当于目前服务器 14 倍的带宽；从 CPU 到 CPU 的速度超过 600GB/s。

　　(3)拥有最高的内存带宽，采用的新内存 LPDDR5x 技术，带宽是 LPDDR4 的两倍，能源效率提高了 10 倍，能提供更多计算能力。

　　明年将有两台性能强大的 AI 超级计算机面世，都将采用 NVIDIA Grace，据称其与 NVIDIA GPU 紧密结合，性能将比目前最先进的 NVIDIA DGX 系统(在 x86 CPU 上运行)高出 10 倍。

　　这两台 AI 超算中，瑞士国家计算中心(CSCS)正在打造一个算力可达 20Exaflops 的系统，美国洛斯阿拉莫斯国家实验室(Los Alamos National Laboratory)也将为其研究人员配备新 AI 超算。

　　2、Bluefield-3 DPU：220 亿晶体管

　　在黄仁勋看来，负责在数据中心传输和处理数据的数据处理单元(DPU)，正与 CPU、GPU 共同组成未来计算的三大支柱。

　　NVIDIA 全新 BlueField-3 DPU 包含 220 亿个晶体管，采用 16 个 Arm A78 CPU 核心、18M IOPs 弹性块存储，加密速度是上一代的 4 倍，并完全向下兼容 BlueField-2。

　　BlueField-2 能够卸载相当于 30 个 CPU 核的工作负载，而 BlueField-3 实现了 10 倍的加速计算性能提升，能够替代 300 个 CPU 核，以 400Gbps 的速率，对网络流量进行保护、卸载和加速。该处理器也是首款支持第五代 PCIe 总线并提供数据中心时间同步加速的 DPU。

　　BlueField-3 通过 NVIDIA DOCA(集数据中心于芯片的架构)软件开发包为开发者提供一个完整、开放的软件平台，开发在 BlueField DPU 上开发软件定义和硬件加速的网络、存储、安全和管理等应用。DOCA 已于今日发布并提供下载。

　　新一代 BlueField-3 DPU 预计将于 2022 年第一季度发布样品，第四代 BlueField DPU 算力达 1000TOPS，网络速率达 800Gbps。

　　3、车轮上的数据中心：业界率先达成 1000TOPS

　　NVIDIA DRIVE Atlan 是新一代 AI 自动驾驶汽车处理器，算力将达到 1000TOPS，约是上一代 Orin 处理器的 4 倍，超过了绝大多数现有无人驾驶出租车的智能计算能力。

　　这是 DRIVE 平台首次集成 DPU，通过 Arm 核为自动驾驶汽车带来数据中心级的网络，致力于应用到 2025 年的车型。

　　该 SoC 采用下一代 GPU 的体系结构、新型 Arm CPU 内核、新深度学习和计算机视觉加速器，并内置为先进的网络、存储和安全服务的 BlueField DPU，网络速度可达 400Gbps。

　　黄仁勋夸赞说：Atlan 集 NVIDIA 在 AI、汽车、机器人、安全和 BlueField 安全数据中心领域的所有技术之大成，堪称一项技术奇迹。

　　4、便捷式 AI 数据中心和 DGX SuperPod 双升级

　　黄仁勋还宣布升级 NVIDIA 专为工作组打造的便携式 AI 数据中心NVIDIA DGX Station，以及 NVIDIA 专为密集型 AI 研发打造的 AI 数据中心产品 NVIDIA DGX SuperPod。

　　全新 DGX Station 320G 借助 320GB 超快速 HBM2e 连接至 4 个 NVIDIA A100 GPU，内存带宽达到每秒 8TB。然而，仅需将其插入普通的壁装电源插座即可使用，耗电量只有 1500W。

　　黄仁勋说，达到这种性能的 CPU 集群成本约为 100 万美元，而 DGX Station 仅需 14。9 万美元。

　　DGX SuperPOD 使用全新 80GB NVIDIA A100，将其 HBM2e 内存提升至 90TB，实现 2。2EB/s 的总带宽。要实现如此的带宽，需要 11000 台 CPU 服务器，大约相当于有 250 个机柜的数据中心，比 SuperPOD 多 15 倍。

　　目前它已经升级至采用 NVIDIA BlueField-2，且 NVIDIA 如今还为该产品提供配套的 NVIDIA Base Command DGX 管理和编排工具。

　　5、Aerial A100：5G+AI 的新型边缘计算平台

　　黄仁勋还提到了 NVIDIA 的 AI-on-5G 计算平台，这是一款专为边缘设计、将 5G 和 AI 相结合的新型计算平台。该平台将采用 NVIDIA Aerial 软件开发套件与 NVIDIA BlueField-2 A100，将 GPU 和 CPU 组合成有史以来最先进的 PCIE 卡。

　　富士通、谷歌云、Mavenir、Radisys 和 Wind River 等合作伙伴都在开发适用于 NVIDIA AI-on-5G 平台的解决方案。

　　二、协作亚马逊自研 CPU 支持云服务，打造 Arm+GPU 新 PC

　　除了推出基于 Arm 的 CPU 外，NVIDIA 还宣布一系列与 Arm 处理器设计商的合作进展，包括将为亚马逊 AWS Graviton2 CPU 提供 GPU 加速、为科学和 AI 应用开发提供支持的全新 HPC 开发者套件、提升边缘视频分析和安全功能、打造新一类基于 Arm 并搭载 NVIDIA RTX GPU 的新款 PC 等。

　　这些举动反映出无论是市场还是 NVIDIA 自身，对基于 Arm 的解决方案的兴趣已经超出移动领域。