当前位置:首页 > 科技  > 芯片

NVIDIA推出HGX H200,效能大幅提升

来源: 责编: 时间:2023-11-15 17:16:50 398观看
导读11月13日,英伟达正式宣布,在目前最强AI(人工智能)芯片H100的基础上进行一次大升级,发布新一代H200芯片。H200拥有141GB的内存、4.8TB/秒的带宽,并将与H100相互兼容,在推理速度上几乎达到了H100的两倍。H200预计将于明年二季

11月13日,英伟达正式宣布,在目前最强AI(人工智能)芯片H100的基础上进行一次大升级,发布新一代H200芯片。H200拥有141GB的内存、4.8TB/秒的带宽,并将与H100相互兼容,在推理速度上几乎达到了H100的两倍。H200预计将于明年二季度开始交付,英伟达尚未公布其价格。ke428资讯网——每日最新资讯28at.com


ke428资讯网——每日最新资讯28at.com

H200引人瞩目的地方在于,它是首款搭载HBM3E的GPU,这种速度更快、容量更大的存储器将加速生成式人工智能(generative AI)和大型语言模型(LLM),同时提升科学运算的高效能运算工作负载。ke428资讯网——每日最新资讯28at.com


ke428资讯网——每日最新资讯28at.com

相较于A100,H200的存储器速度达每秒4.8 TB,存储容量几乎翻倍,带宽增加了2.4倍。ke428资讯网——每日最新资讯28at.com


ke428资讯网——每日最新资讯28at.com

NVIDIA宣布,全球服务器制造商和云端服务供应商将在2024年第2季开始出货搭载H200的系统。ke428资讯网——每日最新资讯28at.com


ke428资讯网——每日最新资讯28at.com

H200将提供包含四路和八路配置的HGX H200服务器主机板,与HGX 100系统兼容。此外,H200还可与NVIDIA GH200 Grace Hopper超级芯片搭配使用,该芯片于2023年8月推出,采用HBM3E。ke428资讯网——每日最新资讯28at.com


ke428资讯网——每日最新资讯28at.com

HGX H200采用NVIDIA NVLink和NVSwitch高速互连技术,可为各种应用工作负载提供高效能,包括对超过1750亿个参数的最大模型进行大型语言模型训练和推断。ke428资讯网——每日最新资讯28at.com


ke428资讯网——每日最新资讯28at.com

英伟达还透露,下一代Blackwell B100 GPU也将在2024年推出,性能已经“望不到头”。ke428资讯网——每日最新资讯28at.com


ke428资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-27-25944-0.htmlNVIDIA推出HGX H200,效能大幅提升

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 台积电预计明年CoWoS将增产20%

下一篇: 湖北启动“链创+链主+链长”机制,推动人工智能产业发展

标签:
  • 热门焦点
  • 官方承诺:K60至尊版将会首批升级MIUI 15

    全新的MIUI 15今天也有了消息,在官宣了K60至尊版将会搭载天玑9200+处理器和独显芯片X7的同时,Redmi给出了官方承诺,K60至尊重大更新首批升级,会首批推送MIUI 15。也就是说虽然
  • 对标苹果的灵动岛 华为带来实况窗功能

    继苹果的灵动岛之后,华为也在今天正式推出了“实况窗”功能。据今天鸿蒙OS 4.0的现场演示显示,华为的实况窗可以更高效的展现出实时通知,比如锁屏上就能看到外卖、打车、银行
  • Rust中的高吞吐量流处理

    作者 | Noz编译 | 王瑞平本篇文章主要介绍了Rust中流处理的概念、方法和优化。作者不仅介绍了流处理的基本概念以及Rust中常用的流处理库,还使用这些库实现了一个流处理程序
  • 摸鱼心法第一章——和配置文件说拜拜

    为了能摸鱼我们团队做了容器化,但是带来的问题是服务配置文件很麻烦,然后大家在群里进行了“亲切友好”的沟通图片图片图片图片对比就对比,简单对比下独立配置中心和k8s作为配
  • 如何通过Python线程池实现异步编程?

    线程池的概念和基本原理线程池是一种并发处理机制,它可以在程序启动时创建一组线程,并将它们置于等待任务的状态。当任务到达时,线程池中的某个线程会被唤醒并执行任务,执行完任
  • 在线图片编辑器,支持PSD解析、AI抠图等

    自从我上次分享一个人开发仿造稿定设计的图片编辑器到现在,不知不觉已过去一年时间了,期间我经历了裁员失业、面试找工作碰壁,寒冬下一直没有很好地履行计划.....这些就放在日
  • 余承东:AI大模型技术的发展将会带来下一代智能终端操作系统的智慧体验

    8月4日消息,2023年华为开发者大会(HDC.Together)今天正式开幕,华为发布HarmonyOS 4、全新升级的鸿蒙开发套件、HarmonyOS Next开发者预览版本等一系列
  • 三星Galaxy Z Fold/Flip 5国行售价曝光 :最低7499元/12999元起

    据官方此前宣布,三星将于7月26日也就是明天在韩国首尔举办Unpacked活动,届时将带来带来包括Galaxy Buds 3、Galaxy Watch 6、Galaxy Tab S9、Galaxy
  • 回归OPPO两年,一加赢了销量,输了品牌

    成为OPPO旗下主打性能的先锋品牌后,一加屡创佳绩。今年618期间,一加手机全渠道销量同比增长362%,凭借一加 11、一加 Ace 2、一加 Ace 2V三款爆品,一加
Top