当前位置:首页 > 科技  > 数码

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

来源: 责编: 时间:2023-11-14 17:08:57 232观看
导读 快科技11月14日消息,NVIDIA第一次披露了下一代AI/HPC加速器的情况,架构代号Blackwell,核心编号GB200,加速器型号B100。 NVIDIA第一次公开确认,B100将在2024年发布,但未出更具体的时间表。 此前曝料称,B100原计划2

快科技11月14日消息,NVIDIA第一次披露了下一代AI/HPC加速器的情况,架构代号Blackwell,核心编号GB200,加速器型号B100。bUQ28资讯网——每日最新资讯28at.com

NVIDIA第一次公开确认,B100将在2024年发布,但未出更具体的时间表。bUQ28资讯网——每日最新资讯28at.com

此前曝料称,B100原计划2024年第四季度推出,但因为AI需求太火爆,已经提前到第二季度,现已进入供应链认证阶段。bUQ28资讯网——每日最新资讯28at.com

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙bUQ28资讯网——每日最新资讯28at.com

NVIDIA表示,B100加速器可以轻松搞定1730亿参数的大语言模型,是现在H200的两倍甚至更多。bUQ28资讯网——每日最新资讯28at.com

虽然这不代表原始计算性能,但也足以令人望而生畏。bUQ28资讯网——每日最新资讯28at.com

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙bUQ28资讯网——每日最新资讯28at.com

同时,B100还将带来更高级的HBM高带宽内存规格。bUQ28资讯网——每日最新资讯28at.com

回顾历史,Pascal P100、Ampere A100、Hopper H100、H200分别首发应用HBM2、HBM2e、HBM3、HBM3e。bUQ28资讯网——每日最新资讯28at.com

接下来的B100肯定赶不上HBM4(规范还没定呢),但必然会在堆叠容量、带宽上继续突破,大大超越现在的4.8TB/s。bUQ28资讯网——每日最新资讯28at.com

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙bUQ28资讯网——每日最新资讯28at.com

Blackwell架构同时也会用于图形工作站和桌面游戏,传闻有GB202、GB203、GB205、GB206、GB207等不同核心,但是对于RTX 50系列,NVIDIA始终三缄其口,几乎肯定到2025年才会发布。bUQ28资讯网——每日最新资讯28at.com

2024年就将是RTX 40 SUPER系列的天下了,明年初的CES 2025首发三款型号RTX 4080 SUPER、RTX 4070 Ti SUPER、RTX 4070 SUPER。bUQ28资讯网——每日最新资讯28at.com

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙bUQ28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-24-24703-0.html搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 强大模型训练芯片H200发布!141G大内存 AI推理高提升90%

下一篇: Rapidus总裁兼CEO:计划今年年底前在美国西海岸开设一个办事处

标签:
  • 热门焦点
Top