NVIDIA推出新一代GH200 Grace Hopper超级芯片平台 升级141GBHBM3e内存

英伟达(Nvidia)周二发布了一款升级版的下一代 Grace Hopper 超级芯片平台,该平台采用了 HBM3e 内存技术,专为人工智能和高性能计算而设计。新款 GH200 Grace Hopper 超级芯片平台由 72 核的 Grace CPU 和 GH100 Hopper 计算 GPU 组成,但与初代不同的是,其使用了 HBM3e 内存,内存容量和带宽都有显著提高。

NVIDIA推出新一代GH200 Grace Hopper超级芯片平台 升级141GBHBM3e内存

英伟达 2022 年 3 月推出了 Grace Hopper 超级芯片,首次将 CPU、GPU 融合在一块主板上。

HBM3e 内存是一种新型的高带宽内存技术,可以在更小的空间内提供更高的数据传输速率。新款 GH200 Grace Hopper 超级芯片平台基于 72 核 Grace CPU,配备 480 GB ECC LPDDR5X 内存以及 GH100 计算 GPU,搭配 141 GB 的 HBM3e 内存,分为六个 24 GB 的堆栈,并使用了 6,144 位的内存接口。虽然英伟达实际安装了 144 GB 的内存,但只有 141 GB 是可用的。

英伟达目前的 GH200 Grace Hopper 超级芯片平台配备 96 GB HBM3 内存,带宽低于 4 TB / s。相比之下,升级版的内存容量增加了约 50%,带宽增加了 25% 以上,可达 5 TB / s。如此巨大的改进使新平台能够运行比初代版本更大的人工智能模型,并提供明显的性能改进(这对于训练尤其重要)。

据英伟达称,目前配备 HBM3 内存的 GH200 Grace Hopper 超级芯片平台已经在生产中,并将于下个月开始商业销售。 而配备 HBM3e 内存的 GH200 Grace Hopper 超级芯片平台现在正在样品测试中,预计将于 2024 年第二季度上市。

英伟达强调,新款 GH200 Grace Hopper 使用了与原版相同的 Grace CPU 和 GH100 GPU 芯片,因此公司无需推出任何新的版本或步进。英伟达表示,原版 GH200 和升级版 GH200 将在市场上共存,这意味着后者将以更高的价格出售,毕竟其更先进的内存技术带来的更高性能。

英伟达表示,配备 HBM3e 内存的下一代 Grace Hopper 超级芯片平台完全兼容英伟达的 MGX 服务器规范,并且可以与现有的服务器设计直接兼容。

版权声明

本文仅代表作者观点,不代表本站立场。

上一篇:英特尔CEO帕特・基辛格承认英伟达“目前是AI领域的领导者”

下一篇:苹果组建16人专家团队 平均每天投数百万美元推进对话式AI 构建生成式AI基础设施