英伟达公司推出了一款改进的人工智能处理器,可提高芯片的容量和性能,旨在巩固该公司在不断发展的领域的霸主地位。 NVIDIA GH200 Grace Hopper 将于 2024 年第二季度上市。
Nvidia 周二在洛杉矶举行的 Siggraph 会议上表示,混合图形芯片和 CPU 的 Grace Hopper Superchip 将受益于新型内存。 该设备基于高带宽内存 3(HBM3e),能够以每秒 5 GB 的速度访问数据。
Nvidia 的最新发布是在之前发布的采用 HBM3 的 GH200 之后发布的,后者目前正在生产中,将于今年晚些时候上市。 这意味着 NVIDIA 将生产同一设备的两个版本,第一个版本使用 HBM3,第二个版本采用 HBM3e。 Nvidia 还表示,得益于 HBM3e 内存,下一代 GH200 的 AI 模型执行速度将比当前模型快 3.5 倍。
Nvidia GH200 Grace Hopper:基于 72 核 Grace CPU 构建
全新 GH200 Grace Hopper Superchip 基于 72 核 Grace CPU,配备 480 GB ECC LPDDR5X 内存,以及 GH100 计算 GPU,配备 6 个 24 GB 堆栈中的 141 GB HBM3E 内存和 6,144 位宽度的内存接口。 NVIDIA 物理安装了 144 GB 内存,但仅可使用 141 GB 来提高产量。
NVIDIA 目前的 GH200 Grace Hopper Superchip 配备 96 GB HBM3 内存,带宽低于 4 TB/s。 相比之下,新型号的内存容量增加了大约一半,带宽增加了四分之一以上。 这些重大增强使新平台能够运行比之前的迭代更大的人工智能模型,从而带来可观的性能提升。
微软与 NVIDIA 签署协议 游戏通行证至 Nvidia GeForce Now
Nvidia 声称这是由于同一组件的不同配置造成的,类似于几年前的 A100 的 40GB 和 80GB 版本。 事实上,RAM 负载是这里的主要区别,至少目前是这样。 “下一代”GH200 不是当前一代 GH200 中的 96GB HBM3 vRAM 和 480GB LPDDR5x DRAM,而是具有 141GB HBM3e 和 500GB 速度较慢的 400GB/秒 LPDDR5x。 上一次迭代中使用了 512GB/秒 LPDDR5x DRAM。
Nvidia 致力于 Grace Hopper 超级芯片已有一段时间了
至少自 2021 年该公司披露初步计划以来,Grace Hopper 超级芯片一直是 Nvidia 首席执行官的热门话题。
Superchip基于Arm架构构建,该架构广泛应用于移动设备,并与英特尔和AMD基于x86的技术竞争。 它被 Nvidia 称为“超级芯片”,因为它结合了基于 Arm 的 Nvidia Grace CPU 和 Hopper GPU 架构。
Grace Hopper 超级芯片在 Nvidia GH200 Grace Hopper 的最新版本中获得了世界上最快的内存 HBM3e 的提升。 据 Nvidia 称,HBM3e 内存比 GH200 当前迭代中包含的 HBM3 技术快 50%。
2023 年英伟达电脑展 带来游戏的未来
“我们对这款新的 GH200 感到非常兴奋。 它将配备 141 GB 的 HBM3e 内存。 据 Venture Beat 报道,Nvidia 副总裁兼超大规模和 HPC 总经理 Ian Buck 在与媒体和分析师的会议上表示:“HBM3e 不仅增加了 GPU 的容量和内存量,而且速度也更快。”
Nvidia 不仅开发更快的硬件,还在新的服务器设计中对其进行扩展。
Buck表示,Nvidia正在开发一种新的基于双GH200的Nvidia MGX服务器系统,该系统将配备两个下一代Grace Hopper超级芯片。 他接着说,新的 GH200 将使用 Nvidia 的互连技术 NVLink 进行连接。
得益于 NVLink,新型双 GH200 服务器中的 CPU 和 GPU 都将与完全一致的内存连接相结合。
Nvidia GH200 Grace Hopper 发布日期
据NVIDIA介绍,采用HBM3的GH200 Grace Hopper平台现已投入生产,并将于下个月上市。 相比之下,采用 HBM3e 的 GH200 Grace Hopper 平台现已提供样品,预计将于 2024 年第二季度准备就绪。
据 NVIDIA 称,新的 GH200 Grace Hopper 采用与之前迭代相同的 Grace CPU 和 GH100 GPU 技术,因此无需进一步修改或步进。
特色图片来源: 英伟达
Source: 这是新的 Nvidia GH200 Grace Hopper