当前位置:首页 > 科技  > 数码

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

来源: 责编: 时间:2023-11-14 17:08:57 419观看
导读 快科技11月14日消息,NVIDIA第一次披露了下一代AI/HPC加速器的情况,架构代号Blackwell,核心编号GB200,加速器型号B100。 NVIDIA第一次公开确认,B100将在2024年发布,但未出更具体的时间表。 此前曝料称,B100原计划2

快科技11月14日消息,NVIDIA第一次披露了下一代AI/HPC加速器的情况,架构代号Blackwell,核心编号GB200,加速器型号B100。Sov28资讯网——每日最新资讯28at.com

NVIDIA第一次公开确认,B100将在2024年发布,但未出更具体的时间表。Sov28资讯网——每日最新资讯28at.com

此前曝料称,B100原计划2024年第四季度推出,但因为AI需求太火爆,已经提前到第二季度,现已进入供应链认证阶段。Sov28资讯网——每日最新资讯28at.com

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙Sov28资讯网——每日最新资讯28at.com

NVIDIA表示,B100加速器可以轻松搞定1730亿参数的大语言模型,是现在H200的两倍甚至更多。Sov28资讯网——每日最新资讯28at.com

虽然这不代表原始计算性能,但也足以令人望而生畏。Sov28资讯网——每日最新资讯28at.com

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙Sov28资讯网——每日最新资讯28at.com

同时,B100还将带来更高级的HBM高带宽内存规格。Sov28资讯网——每日最新资讯28at.com

回顾历史,Pascal P100、Ampere A100、Hopper H100、H200分别首发应用HBM2、HBM2e、HBM3、HBM3e。Sov28资讯网——每日最新资讯28at.com

接下来的B100肯定赶不上HBM4(规范还没定呢),但必然会在堆叠容量、带宽上继续突破,大大超越现在的4.8TB/s。Sov28资讯网——每日最新资讯28at.com

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙Sov28资讯网——每日最新资讯28at.com

Blackwell架构同时也会用于图形工作站和桌面游戏,传闻有GB202、GB203、GB205、GB206、GB207等不同核心,但是对于RTX 50系列,NVIDIA始终三缄其口,几乎肯定到2025年才会发布。Sov28资讯网——每日最新资讯28at.com

2024年就将是RTX 40 SUPER系列的天下了,明年初的CES 2025首发三款型号RTX 4080 SUPER、RTX 4070 Ti SUPER、RTX 4070 SUPER。Sov28资讯网——每日最新资讯28at.com

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙Sov28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-24-24703-0.html搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 强大模型训练芯片H200发布!141G大内存 AI推理高提升90%

下一篇: Rapidus总裁兼CEO:计划今年年底前在美国西海岸开设一个办事处

标签:
  • 热门焦点
  • 鸿蒙OS 4.0公测机型公布:甚至连nova6都支持

    华为全新的HarmonyOS 4.0操作系统将于今天下午正式登场,官方在发布会之前也已经正式给出了可升级的机型产品,这意味着这些机型会率先支持升级享用。这次的HarmonyOS 4.0支持
  • 小米官宣:2023年上半年出货量中国第一!

    今日早间,小米电视官方微博带来消息,称2023年小米电视上半年出货量达到了中国第一,同时还表示小米电视的巨屏风暴即将开始。“公布一个好消息2023年#小米电视上半年出货量中国
  • 石头智能洗地机A10 Plus体验:双向自清洁治好了我的懒癌

    一、前言和介绍专为家庭请假懒人而生的石头科技在近日又带来了自己的全新旗舰新品,石头智能洗地机A10 Plus。从这个产品名上就不难看出,这次石头推出的并不是常见的扫地机器
  • Golang 中的 io 包详解:组合接口

    io.ReadWriter// ReadWriter is the interface that groups the basic Read and Write methods.type ReadWriter interface { Reader Writer}是对Reader和Writer接口的组合,
  • 从 Pulsar Client 的原理到它的监控面板

    背景前段时间业务团队偶尔会碰到一些 Pulsar 使用的问题,比如消息阻塞不消费了、生产者消息发送缓慢等各种问题。虽然我们有个监控页面可以根据 topic 维度查看他的发送状态,
  • 让我们一起聊聊文件的操作

    文件【1】文件是什么?文件是保存数据的地方,是数据源的一种,比如大家经常使用的word文档、txt文件、excel文件、jpg文件...都是文件。文件最主要的作用就是保存数据,它既可以保
  • 一个注解实现接口幂等,这样才优雅!

    场景码猿慢病云管理系统中其实高并发的场景不是很多,没有必要每个接口都去考虑并发高的场景,比如添加住院患者的这个接口,具体的业务代码就不贴了,业务伪代码如下:图片上述代码有
  • 腾讯盖楼,字节拆墙

    来源 | 光子星球撰文 | 吴坤谚编辑 | 吴先之“想重温暴刷深渊、30+技能搭配暴搓到爽的游戏体验吗?一起上晶核,即刻暴打!”曾凭借直播腾讯旗下代理格斗游戏《DNF》一
  • 华为Mate60标准版细节曝光:经典星环相机模组回归

    这段时间以来,关于华为新旗舰的爆料日渐密集。据此前多方爆料,今年华为将开始恢复一年双旗舰战略,除上半年推出的P60系列外,往年下半年的Mate系列也将
Top