八路达成1.1TB HBM3e内存！NVIDIA奉上全球第一GPU H200

NVIDIA GPU已经在AI、HPC领域遥遥领先，但没有强，只有更强。tFH28资讯网——每日最新资讯28at.com

现在，NVIDIA又发布了全新的HGX H200加速器，可处理AIGC、HPC工作负载的海量数据。tFH28资讯网——每日最新资讯28at.com

tFH28资讯网——每日最新资讯28at.com

NVIDIA H200的一大特点就是首发新一代HBM3e高带宽内存(疑似来自SK海力士)，单颗容量就多达141GB(原始容量144GB但为提高良率屏蔽了一点点)，同时带宽多达4.8TB/s。tFH28资讯网——每日最新资讯28at.com

对比H100，容量增加了76％，带宽增加了43％，而对比上代A100，更是容量几乎翻番，带宽增加2.4倍。tFH28资讯网——每日最新资讯28at.com

得益于NVLink、NVSwitch高速互连技术，H200还可以四路、八路并联，因此单系统的HBM3e内存容量能做到多1128GB，也就是1.1TB。tFH28资讯网——每日最新资讯28at.com

只是相比于AMD Instinct MI300X还差点意思，后者搭载了192GB HBM3，带宽高达5.2TB/s。tFH28资讯网——每日最新资讯28at.com

tFH28资讯网——每日最新资讯28at.com

性能方面，H200再一次实现了飞跃，700亿参数的Llama2大语言模型推理性能比H100提高了多达90％，1750亿参数的GTP-3模型推理性能也提高了60％，而对比前代A100 HPC模拟性能直接翻番。tFH28资讯网——每日最新资讯28at.com

八路H200系统下，FP8深度学习计算性能可以超过32PFlops，也就是每秒3.2亿亿次浮点计算，堪比一台大型超级计算机。tFH28资讯网——每日最新资讯28at.com

随着未来软件的持续升级，H200还有望继续释放潜力，实现更大的性能优势。tFH28资讯网——每日最新资讯28at.com

此外，H200还可以与采用超高速NVLink-C2C互连技术的NVIDIA Grace CPU处理器搭配使用，就组成了GH200 Grace Hopper超级芯片，专为大型HPC、AI应用而设计的计算模块。tFH28资讯网——每日最新资讯28at.com

NVIDIA H200将从2024年第二季度开始通过全球系统制造商、云服务提供商提供。tFH28资讯网——每日最新资讯28at.com

tFH28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-24-24701-0.html八路达成1.1TB HBM3e内存！NVIDIA奉上全球第一GPU H200

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 联想发布ThinkStation P8工作站：顶配锐龙96核心CPU

下一篇： 强大模型训练芯片H200发布！141G大内存 AI推理高提升90%