根据 9 月 11 日跑分数据,NVIDIA 旗下新一代超级晶片 GH200 表现亮眼,在各个测试项目上都相较 H100 至少有 15%左右的提升。
(前情提要:Nvidia的AI晶片H100有多神?为何一片难求?)
(背景补充:Tether斥资4.2亿镁买ㄧ万个「Nvidia H100」:合作矿企出租算力给AI新创)
本文目录
生成式 AI 的运算需求不断增长,助推 GPU 大厂辉达(Nvidia)股价大涨再创新高。而在 8 月中,Nvidia 执行长黄仁勳在展览中再次力推 DGX GH200,这是一款采用 Grace Hopper 加速运算卡所打造的新一代生成式 AI 超级晶片,也是 Nvidia 首款 Exaflop 等级的 DGX 超级电脑产品。
延伸阅读:Nvidia黄仁勳搞革命「GPU效能5年千倍」,亮相AI超级电脑、晶片:打破摩尔定律
性能辗压 H100 17%
根据 9 月 11 日跑分数据,NVIDIA 宣布旗下 NVIDIA GH200 、 NVIDIA H100 、 NVIDIA L4 GPU 与 Jetson Orin 在同类产品中都获得领先的表现。
其中 NVIDIA GH200 在首次提交单一晶片上,与单张 H100 配合英特尔 CPU 相互比较後,GH200 的组合,在各个测试项目上都至少有 15%左右的提升。Nvidia 人工智慧总监 Dave Salvator 在新闻发布会上表示:
Grace Hopper 的首次表现非常强劲,与我们提交的 H100 GPU 相比,性能提高了 17%,而我们已经在产业内全面领先。
GH200 是什麽?
据官方说明,NVIDIA GH200 是首个将 NVIDIA 的 H100 GPU 和 Grace CPU 整合在一起的超级晶片,这两者之间再通过频宽高达 900GB/s 的 NVLink-C2C 连互连接,能提供更好的扩充性,以超快速度进行深度学习训练。
简单来说 GH200 就是记忆体容量更大,频宽也更大,并且能自动调节在 CPU 和 GPU 之间自电力,增加整体效能表现。
NVIDIA 表示 GH200 有三大特点:
多数选手性能比上一代提升至 20%
在 2023 年 5 月的 Computex 期间,NVIDIA 的 CEO 黄仁勳提到了 GH200 晶片预计在 2024 年第二季度量产。值得一提的是,在 MLPerf v3.1 基准测试中,有超过 13,500 个结果,其中不少提交者的性能比 3.0 基准提高了20%以上。
MLPerf 是一项让客户用於评估 AI 晶片效能的常用工具。
其他提交者包括华硕,Azure,Connect Tech,DELL,富士通,Giga Computing,Google,H3C,HPE,IEI,Intel,Intel Habana Labs,Nutanix,甲骨文,高通,Quanta Cloud Technology,SiMA,Supermicro,TTA 和 xFusion等。
📍相关报导📍
AI大未来!这6个加密专案加入了 NVIDIA Inception 计划
市场快读》Nvidia陪美股全线跳水;比特币无短期利好、投资人止步观望
Nvidia遭殃!美国拟禁令AI晶片输出中东,完成金砖国封锁网