当前位置:首页 > 科技  > 数码

回顾NVIDIA GTC 2024:Blackwell算力核弹问世

来源: 责编: 时间:2024-03-22 08:51:47 248观看
导读 AI,这个在2023年犹如井泉喷涌进我们日常生活的词语,现如今正以惊人的速度重塑着我们的生活方式,同时间改变着整个世界的面貌。从大语言LLMs模型到先进的AI图像生成,从智能算法推荐到惊人的AI视频生成,人工智能的

AI,这个在2023年犹如井泉喷涌进我们日常生活的词语,现如今正以惊人的速度重塑着我们的生活方式,同时间改变着整个世界的面貌。从大语言LLMs模型到先进的AI图像生成,从智能算法推荐到惊人的AI视频生成,人工智能的触角已经伸展到了科技的各个角落。9Tc28资讯网——每日最新资讯28at.com

从GPT-4发布,到谷歌Bard的入场、Meta开源模型LLama的问世,再到国内文心一言、星火大模型、通义千问、月之暗面等诸多国产模型的纷纷亮相。我们目睹了全球人工智能领域的快速发展和技术突破。9Tc28资讯网——每日最新资讯28at.com

如今AI的竞争依然处于百花齐放百家争鸣的阶段,每一家都在使用自身优势在AI浪潮中分得一杯羹。从北美的硅谷到欧洲的科技集群,从亚洲的研发中心到其他地区的创新孵化器,AI正在成为跨国界、跨文化的合作与竞争的焦点。9Tc28资讯网——每日最新资讯28at.com

若将人工智能比作科技高峰上的璀璨之花,那么NVIDIA无疑是这些花朵赖以绽放的肥沃土壤。正是NVIDIA提供的先进计算平台,成为滋养人工智能之林的关键养分,让这些技术之花竞相开放,展现出惊世之美。9Tc28资讯网——每日最新资讯28at.com

2024 NVIDIA GTC主题演讲 见证 AI 的变革时刻9Tc28资讯网——每日最新资讯28at.com

每年春季,NVIDIA的GTC主题演讲就如约而至。自2019年以“GPU Computing: The Future of Computing”揭开序幕,AI便成了GTC年会的重头戏。NVIDIA始终致力于将旗下产品的强大算力与AI技术的前沿需求无缝对接。正是老黄远见卓识的策略布局,使NVIDIA在AI的黄金时代巍然屹立,稳占行业霸主之位。9Tc28资讯网——每日最新资讯28at.com

2023年,老黄在演讲中详细阐述了NVIDIA在人工智能、数据中心、云计算等关键领域取得的新成果。9Tc28资讯网——每日最新资讯28at.com

重点介绍了NVIDIA Hopper GPU架构,它使AI性能相比前一代产品实现了翻倍的飞跃。同时,NVIDIA DGX Cloud为企业级用户带来了前所未有的强大算力支持。9Tc28资讯网——每日最新资讯28at.com

而NVIDIA Omniverse平台则将AI技术的应用拓展到了设计和建筑行业。老黄在演讲中富有预见性地指出:我们现在正处在人工智能的‘iPhone时代’。9Tc28资讯网——每日最新资讯28at.com

那么在今天的GTC大会上,老黄,这位“人类AI教父”又给我们带来了什么新鲜事呢?9Tc28资讯网——每日最新资讯28at.com

Blackwell 2080亿晶体管的算力猛兽9Tc28资讯网——每日最新资讯28at.com

当下,世界范围内使用多的AI应用-LLMs,如Google的Gemini、Meta的NLLB、Maxtral的Mistral以及OpenAI的GPT-4等模型,均采用了“专家混合”(Mixtures of Experts,MoEs)技术。这些模型功能的强大,对芯片硬件提出了更高的要求。2023年,NVIDIA 凭借其Hopper架构,成功地迎接了这些挑战。9Tc28资讯网——每日最新资讯28at.com

在今年的GTC上,老黄再一次地刷新了世界AI商用算力的排行榜,发布了Blackwell 架构和同名AI处理器B100、B200和GB200,产品取名自杰出数学家和统计学家 David H. Blackwell,体现了其在概率计算、博弈论、统计学和动态规划等多个领域的杰出贡献。9Tc28资讯网——每日最新资讯28at.com

此次发布的 Blackwell GPU B100使用了两个台积电4NP工艺制造的芯片,芯片面积为814平方毫米,这个数据已经接近了EUV光刻技术的理论极限值(858平方毫米),两个芯片通过C2C-Interface进行相连,组成一个“1600平方毫米”的超大处理单元。9Tc28资讯网——每日最新资讯28at.com

单个GPU芯片含1040亿晶体管,整体达到2080亿个,比上一代的Hopper架构增加了240亿个。每个GPU连接了四个各有24GB的HBM3E存储芯片,使得B100 AI处理器拥有192GB的高速存储,并且存储带宽达到了8TB/s。9Tc28资讯网——每日最新资讯28at.com

回顾NVIDIA GTC 2024:Blackwell算力核弹问世9Tc28资讯网——每日最新资讯28at.com

B100/B200/H100/AMDMI300X AI处理器重点参数对比 图片源自于网络9Tc28资讯网——每日最新资讯28at.com

在计算性能方面,NVIDIA 目前主要公布了 Blackwell 架构中 Tensor Cores 的性能数据。对比 NVIDIA Hopper架构的数据显示,对于低精度计算,Blackwell GPU 的性能是前代的2.5倍。9Tc28资讯网——每日最新资讯28at.com

而针对 FP64 计算,性能从 67 TFLOPS 降低至 30 TFLOPS。对此,NVIDIA并没有进行解释,许多博主也对FP64精度计算性能的下降表示了疑惑。9Tc28资讯网——每日最新资讯28at.com

回顾NVIDIA GTC 2024:Blackwell算力核弹问世9Tc28资讯网——每日最新资讯28at.com

在日常的计算任务中,FP32(单精度浮点数)和FP64是为普遍的数据格式,它们使用32位和64位分别对浮点数进行编码,既能提供较大的数值范围也保障了较高的数值精度,但相对地,也对内存和计算资源的需求更高。9Tc28资讯网——每日最新资讯28at.com

与之相对,FP16(半精度浮点数)和FP4提供的算力精度较低,特别是FP4,其低精度下的性能并不理想,即使在大型语言模型(LLMs)中开启FP4精度运行也是如此。9Tc28资讯网——每日最新资讯28at.com

回顾NVIDIA GTC 2024:Blackwell算力核弹问世9Tc28资讯网——每日最新资讯28at.com

尚不明确NVIDIA此次为何将主要升级焦点放在FP4运算上。随着针对移动端LLMs需求的增长,对FP4运算的依赖可能有所增加,这或许促使NVIDIA优化了对FP4的支持,以提升这些应用的运算效率。9Tc28资讯网——每日最新资讯28at.com

功耗方面,NVIDIA 宣布 Blackwell 系列的TDP范围在 700 至 1200 W之间。其中,风冷版本的 B100 和 B200 的 TDP 分别为 700W和 1000 W,而 1200 W版本的则需使用上水冷散热。此外,Blackwell GPU 还配备了支持 6.0 标准的 PCI-Express 控制器。9Tc28资讯网——每日最新资讯28at.com

然后也放一下B100和B200的对比图,B200在运算性能与显存上对比B100有了不小的提升,相当于B100的“官方灰烬版”。同时NVIDIA还推出了GB200。9Tc28资讯网——每日最新资讯28at.com

回顾NVIDIA GTC 2024:Blackwell算力核弹问世9Tc28资讯网——每日最新资讯28at.com

GB200就是将2个B200芯片和1个GraceCPU整合到一起,“合体之后”的性能表现将是单片H100的30倍左右的提升。当然GB200是应该是不会单独售卖的,如同去年推出的HGX 100 72X一样,GB200主要还是通过整合,然后形成一个GB200 NVL72的计算中心进行出售。9Tc28资讯网——每日最新资讯28at.com

回顾NVIDIA GTC 2024:Blackwell算力核弹问世9Tc28资讯网——每日最新资讯28at.com

回顾近发布的Blackwell GPU,我认为其大亮点并非在于算力的显著提升,而是它所搭载的192GB HBM 3E高带宽存储。面对如今日益增长的模型尺寸——例如,埃隆·马斯克近宣布开源的Grok-1模型,它至少需要800GB的显存才能运行。9Tc28资讯网——每日最新资讯28at.com

若使用H100 GPU(配备80GB显存),运行该模型需要整整10张卡,而采用B100 GPU(如果每张配备192GB显存),仅需4张便可满足需求。这对于运维商而言,无疑是一种成本效率极高的解决方案。9Tc28资讯网——每日最新资讯28at.com

这也是未来AI处理器发展的一个趋势,为了更好地AMD 的 Instinct MI300 系列产品形成压制。NVIDIA 还计划在今年下半年为 H100 系列加速器增加新的 H200 或 GH200 代,这将提供更高的 141 GB HBM3E 存储以及 4.8 TB/s 的存储带宽,也就是官方的显存提升版本。9Tc28资讯网——每日最新资讯28at.com

Omniverse 再升级,Vision Pro应用新场景?9Tc28资讯网——每日最新资讯28at.com

NVIDIA在本次的GTC 2024中进一步升级了其Omniverse平台,并将其企业技术扩展到了苹果生态系统。这一策略在于借助Vision Pro应用,使开发者得以在增强现实/虚拟现实(AR/VR)环境中利用Omniverse的强大工具。9Tc28资讯网——每日最新资讯28at.com

在GTC大会上上,NVIDIA展示了设计师如何利用Vision Pro中的汽车配置工具操作车辆模型,并能够以虚拟的方式“进入”车辆内部进行查看。这种交互是通过Omniverse Cloud API实现的,此外,图形内容还可以通过云计算服务直接流式传输至Vision Pro,实现高效的图形传输网络服务。9Tc28资讯网——每日最新资讯28at.com

这一升级意味着,Omniverse和Vision Pro的结合将为AR/VR领域带来更加沉浸式和互动性强的体验。用户能够在三维空间中以更加自然和直观的方式进行设计、模拟和创作,这对于产品设计、建筑可视化以及互动娱乐等多个应用场景都将是一次质的飞跃。9Tc28资讯网——每日最新资讯28at.com

机器人的ChatGPT时代可能即将来临9Tc28资讯网——每日最新资讯28at.com

正当我们以为今天的大会只会聚焦于算力话题时,老黄却给我们带来了意想不到的惊喜——备受瞩目的年度机器人环节如约而至,NVIDIA宣布了其人形机器人项目GR00T。9Tc28资讯网——每日最新资讯28at.com

在今日的主题演讲中,黄仁勋展示了多款由GR00T平台驱动的人形机器人如何高效完成多项任务,这些机器人分别来自 Agility Robotics、Apptronik、傅利叶智能以及宇树科技。9Tc28资讯网——每日最新资讯28at.com

GR00T的诞生源自NVIDIA的Isaac机器人平台工具,它基于全新的通用基础模型设计,使得GR00T驱动的人形机器人能够接收并处理文本、语音、视频乃至现场示范的输入信息,从而执行精确的操作。这些操作包括理解自然语言、模仿人类行为、在现实世界中的导航和互动等。可以说,AI已经变成了机器人的“灵魂”。9Tc28资讯网——每日最新资讯28at.com

NVIDIA还开发了一款新型的“机器人大脑”计算芯片——Jetson Thor,该芯片能够执行复杂的任务,并借助Transformer引擎处理多元的传感器数据。9Tc28资讯网——每日最新资讯28at.com

未来,NVIDIA将人形机器人定位为公司的一个关键战略方向。正如黄仁勋所预示的,机器人界的ChatGPT时代可能即将来临。9Tc28资讯网——每日最新资讯28at.com

在过去,NVIDIA给人更多的印象就是一个游戏显卡的制造商,很少有人能够想到在不到20年的时间里,NVIDIA通过CUDA能够让GPU从一个“游戏硬件”概念变成一个改变世界的“数字石油”。9Tc28资讯网——每日最新资讯28at.com

未来,随着技术的不断进步,NVIDIA的GPU很可能继续拓展其影响力。随着量子计算、边缘计算和物联网的发展,NVIDIA的技术有望在新的领域中发挥关键作用,进一步加速世界的数字化转型。9Tc28资讯网——每日最新资讯28at.com

回顾NVIDIA GTC 2024:Blackwell算力核弹问世9Tc28资讯网——每日最新资讯28at.com


文章出处:太平洋科技

本文链接:http://www.28at.com/showinfo-24-78351-0.html回顾NVIDIA GTC 2024:Blackwell算力核弹问世

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: SSD等涨价25%只是开始!三星工厂突然大火:存储价格又要涨了

下一篇: PC市场强势复苏:今年将重回增长轨道

标签:
  • 热门焦点
  • 一加Ace2 Pro官宣:普及16G内存 引领24G

    一加官方今天继续为本月发布的新机一加Ace2 Pro带来预热,公布了内存方面的信息。“淘汰 8GB ,12GB 起步,16GB 普及,24GB 引领,还有呢?#一加Ace2Pro#,2023 年 8 月,敬请期待。”同时
  • 直屏旗舰来了 iQOO 12和K70 Pro同台竞技

    旗舰机基本上使用的都是双曲面屏幕,这就让很多喜欢直屏的爱好者在苦等一款直屏旗舰,这次,你们等到了。据博主数码闲聊站带来的最新爆料称,Redmi下代旗舰K70 Pro和iQOO 12两款手
  • 小米平板5 Pro 12.4简评:多专多能 兼顾影音娱乐的大屏利器

    疫情带来了网课,网课盘活了安卓平板,安卓平板市场虽然中途停滞了几年,但好的一点就是停滞的这几年行业又有了新的发展方向,例如超窄边框、高刷新率、多摄镜头组合等,这就让安卓
  • 7月安卓手机性价比榜:努比亚+红魔两款新机入榜

    7月登场的新机有努比亚Z50S Pro和红魔8S Pro,除了三星之外目前唯二的两款搭载超频版骁龙8Gen2处理器的产品,而且努比亚和红魔也一贯有着不错的性价比,所以在本次的性价比榜单
  • 如何正确使用:Has和:Nth-Last-Child

    我们可以用CSS检查,以了解一组元素的数量是否小于或等于一个数字。例如,一个拥有三个或更多子项的grid。你可能会想,为什么需要这样做呢?在某些情况下,一个组件或一个布局可能会
  • 中国家电海外掘金正当时|出海专题

    作者|吴南南编辑|胡展嘉运营|陈佳慧出品|零态LT(ID:LingTai_LT)2023年,出海市场战况空前,中国创业者在海外纷纷摩拳擦掌,以期能够把中国的商业模式、创业理念、战略打法输出海外,他们依
  • 年轻人的“职场羞耻感”,无处不在

    作者:冯晓亭 陶 淘 李 欣 张 琳 马舒叶来源:燃次元“人在职场,应该选择什么样的着装?”近日,在网络上,一个与着装相关的帖子引发关注,在该帖子里,一位在高级写字楼亚洲金
  • 东方甄选单飞:有些鸟注定是关不住的

    作者:彭宽鸿来源:华尔街科技眼‍‍‍‍‍‍‍‍‍‍东方甄选创始人俞敏洪带队的“7天甘肃行”直播活动已在近日顺利收官。成立后一
  • 世界人工智能大会国际日开幕式活动在世博展览馆开启

    30日上午,世界人工智能大会国际日开幕式活动在世博展览馆开启,聚集国际城市代表、重量级院士专家、国际创新企业代表,共同打造人工智能交流平台。上海市副市
Top