早在今年5月29日，AI芯片大厂英伟达（NVIDIA） CEO黄仁勋就在COMPUTEX 2023展前发布会上，正式发布了升级版的GH200Grace Hopper超级芯片，旨在助力开发面向生成式AI语言应用、推荐系统和数据分析工作负载的巨型、下一代模型。
GH200超级芯片，是将 72 核的Grace CPU、H100 GPU、96GB 的 HBM3 和 512 GB 的 LPDDR5X 集成在同一个封装中，拥有高达 2000 亿个晶体管。这种组合提供了 CPU 和 GPU 之间惊人的数据带宽，高达 900 GB / s，为某些内存受限的工作负载提供了巨大的优势。
相关文章：《AI性能突破1Eflop！英伟达DGX GH200发布：256个GH200芯片，144TB共享内存！》
美国当地时间8月8日，英伟达又发布了新一代GH200 Grace Hopper（简称“新版GH200”）平台。但与今年5月发布的GH200不同的是，新一代GH200搭载了全球首款HBM3e内存，内存容量和带宽都有显著提高，专为加速计算和生成式AI时代而打造。
英伟达称，新版GH200旨在处理世界上最复杂的生成式AI工作负载，涵盖大型语言模型、推荐系统和矢量数据库，将提供多种配置。新版GH200将于2024年第二季度投产。
具体来说，新版GH200芯片平台基于 72 核 Grace CPU，配备 480 GB ECC LPDDR5X 内存以及 GH100 计算 GPU，搭配 141 GB 的 HBM3e 内存，分为六个 24 GB 的堆栈，并使用了 6,144 位的内存接口。虽然英伟达实际安装了 144 GB 的内存，但只有 141 GB 是可用的。
相比原版GH200平台，新版GH200平台的双芯片配置将内存容量提高3.5倍，带宽增加三倍，一个服务器就有144个Arm Neoverse高性能内核、8 petaflops 的 AI 性能和282GB的最新HBM3e内存技术。
HBM3e是全新一代的高带宽内存，带宽达每秒5TB，比原版的GH200所搭载的HBM3快50%，可为新版的GH200提供总共每秒10TB的组合带宽，使新平台能运行比前代大3.5倍的模型，同时通过快3倍的内存带宽提高性能。
据英伟达介绍，目前配备 HBM3 内存的原版GH200Grace Hopper超级芯片平台已经在生产中，并将于下个月开始商业销售。而配备 HBM3e 内存的新版GH200Grace Hopper超级芯片平台现在正在样品测试中，预计将于 2024 年第二季度上市。
英伟达强调，新版GH200 Grace Hopper 使用了与原版相同的 Grace CPU 和 GH100 GPU 芯片，因此公司无需推出任何新的软件版本或步进。英伟达表示，原版 GH200 和升级版 GH200 将在市场上共存，这意味着后者将以更高的价格出售，毕竟其更先进的内存技术带来的更高性能。
英伟达表示，配备 HBM3e 内存的下一代 Grace Hopper 超级芯片平台完全兼容英伟达的 MGX 服务器规范，并且可以与现有的服务器设计直接兼容。
黄仁勋说，为了满足生成式 AI 不断增长的需求，数据中心需要有针对特殊需求的加速计算平台。新的GH200 Grace Hopper 超级芯片平台提供了卓越的内存技术和带宽，以此提高吞吐量，提升无损耗连接GPU聚合性能的能力，并且拥有可以在整个数据中心轻松部署的服务器设计。
快速创建生成式AI的工具包AI Workbench
除了新款GH200，英伟达周二还发布了新的统一工具包AI Workbench，以及对英伟达Omniverse软件服务的重大升级。
AI Workbench为开发者提供了统一且便于使用的工具包，可在个人电脑（PC）或工作站上快速创建、测试和微调生成式AI模型，然后将其扩展到几乎任何数据中心、公共云或者英伟达的DGX云。
英伟达称，AI Workbench让企业的AI项目入门不再复杂。通过在本地系统运行的简化界面进行访问，它让开发者能使用自定义数据微调Hugging Face、GitHub 和 NGC 等常用存储库中的模型，然后可以在多个平台上轻松共享模型。
借助AI Workbench，开发者只需点击几下即可自定义和运行生成式AI，而且他们能够将所有必要的企业级模型、框架、软件开发套件和库整合到一个统一的开发者工作区中。
用黄仁勋的话来说就是：“人人都可以做到。”
Omniverse平台升级 通过OpenUSD软件利用生成式AI
英伟达的升级版Omniverse平台为开发者和工业企业提供新的基础应用与服务，以OpenUSD框架和生成式AI优化及增强他们的3D管道。
升级版Omniverse平台是一个高性能3D场景描述技术OpenUSD的原生软件平台，用于跨3D工具和应用的连接、描述和模拟，能加快创建虚拟世界和工业数字化高级工作流程。Cesium、Convai、Move AI、SideFX Houdini 和 Wonder Dynamics现已通过 OpenUSD 连接到 Omniverse。
新平台的亮点包括更新开发原生OpenUSD应用及扩展的引擎——Omniverse Kit，以及英伟达Omniverse Audio2Face基础应用和空间计算功能的更新。
Omniverse 和模拟技术副总裁 Rev Lebaredian表示，更新后的Omniverse 让开发人员可以通过OpenUSD利用生成式AI强化他们的工具，并且让工业企业能构建更大、更复杂的世界级模拟，作为其工业应用的数字测试场。
编辑：芯智讯-浪客剑
ODM大厂华勤技术登陆主板：三年累计净利超65亿元，募资55亿元！
2023美国半导体产业现状：36%销售额来自于中国！
张忠谋：美国公司将失去业务，中国将找到反击的方法！
立即生效！印度宣布限制PC相关产品进口！
在中国市场，Arm服务器份额已接近15%！
AMD净利同比暴跌94%！环比暴涨119%！苏姿丰：AI将带来数十亿美元增长机会！
中国宣布对部分无人机实施出口管制！航天彩虹、大疆等企业或受影响！
主频提升25%！俄罗斯48核CPU仍不是华为鲲鹏920对手！
颠覆行业！英飞凌推可回收、可降解PCB：能溶解于90℃热水，碳排放量减少60%！
英特尔CEO：如果没了中国的订单，再建晶圆厂就没必要了！
2022年全球CIS厂商排名：豪威第三，格科微跌出前五！
Cerebras推出全球最强AI超算：5400万个AI内核，算力高达4 exaFLOPS！
行业交流、合作请加微信：icsmart01
芯智讯官方交流群：221807116
本文链接：http://www.28at.com/showinfo-27-5064-0.html英伟达推出最强AI芯片：首发HMB3e，大模型运行能力提升3.5倍！
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
