AMD最近在Advancing AI大会上推出了令人瞩目的新品，包括全新的锐龙 8040系列 AI PC 芯片以及MI300X GPU和MI300A APU等两款AI计算重磅新品。这次发布显示了AMD在AI市场上的野心和对未来的雄心壮志。
MI300X GPU是基于全新CDNA3架构的AI加速器，配置豪华，包括8组XCD和304个CDNA单元，以及高达5.3TB/s的192GB显存带宽。相较于上一代MI250X，MI300X的计算单元增加了近40%，内存容量增至1.5倍，理论带宽提升至1.7倍，并且支持FP8和稀疏计算。在实际用例中，MI300X与英伟达的H100相比，在运行BLOOM大语言模型推理时，吞吐量可达后者的1.6倍。这显示了MI300X在大型模型推理方面的强大性能，为企业提供了卓越的TCO性价比。
另一方面，AMD还宣布了首个数据中心APU，MI300A。借助3D封装技术和AMD Infinity架构的支持，MI300A将CDNA 3架构的GPU核心、Zen 4架构的CPU核心和128GB的HBM3内存集成在一起。相比MI250X，MI300A在HPC和AI负载的FP32计算上能效翻倍。统一的内存和缓存设计大大降低了CPU、GPU和HBM之间的数据传输延迟，提供了卓越的性能和功耗平衡。
在软件方面，AMD也进行了大幅升级，推出了RoCm的第六版。RoCm是AMD对抗英伟达CUDA的解决方案，此次更新主要优化了Instinct系列GPU在生成式AI的大语言模型上的性能。与以往相比，RoCm 6不仅增加了对新数据类型的支持，还引入了高级图形和内核优化、库优化以及最先进的注意力机制算法。此外，OpenAI也宣布将在Triton 3.0上加入对AMD Instinct的支持，为Instinct硬件平台提供更好的开发支持。
这次的发布表明了AMD在AI市场的雄心和实力，MI300X和MI300A的强大性能将使其成为英伟达H100的有力竞争对手。这也标志着AMD对于未来AI市场份额的争夺将会更加激烈。总的来说，AMD在硬件和软件方面的双重升级将为其在AI领域的发展带来新的机遇和竞争优势。
本文链接：http://www.28at.com/showinfo-27-41657-0.htmlAMD正式出货两款高性能AI芯片，对标英伟达
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
上一篇： 晶科能源获国家级工业设计中心认定
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
