全球最具公信力的人工智能（AI）基准测试MLPerf已进入生成式AI（Generative AI）时代。NVIDIA凭借其强大的GPU系统在最新的生成式AI训练基准测试中取得了领先的地位，而英特尔（Intel）和Google也在测试中展示了他们的实力。
在2023年早些时候，MLPerf新增了大型语言模型（LLM）训练基准测试，特别是针对GPT-3。而在11月，MLPerf又新增了文字转影像生成器Stable Diffusion基准测试。这些基准测试都是针对生成式AI的，要求参与者在强大的计算系统上完成训练。
在这个测试中，NVIDIA凭借其HGX H100系统取得了最佳的成绩。HGX H100系统是一个超级电脑，搭载了1万颗GPU。名为Eos的NVIDIA系统仅用了不到4分钟就完成了所有的GPT-3训练基准测试。微软（Microsoft）Azure用相同大小的系统测试，完成时间也只落后了几秒钟。
英特尔也参与了这个基准测试，他们使用了搭载Gaudi 2加速芯片的系统以及仅搭载第4代Xeon处理器的系统。英特尔启用了Gaudi 2的8位元浮点（FP8）功能，这在部分GPT-3和其他Transformer神经网络中使用，其低精度不会影响精度。测试结果显示，Gaudi 2系统的单芯片速度略低于NVIDIA系统约三分之一，但它是Google TPUv5e的3倍。
英特尔Habana Labs营运长Eitan Medina表示，他们预估FP8将带来90%的增益，而实际测试中，384个加速器的丛集将训练时间缩短了103%。他还指出，Gaudi 2的价格明显低于H100，因此在价格和效能的综合指标上具有优势。随着Gaudi 3在2024年的推出，此优势将进一步增强。
除了这些大公司，也有一些仅搭载CPU的系统参与了基准测试。这些系统在几个基准测试的训练时间介于几分钟到几小时之间。除了MLPerf基准测试外，英特尔还分享了一些数据，显示包含AMX矩阵引擎的4节点Xeon系统能在不到5分钟内微调Stable Diffusion影像生成器。
据报道，共有19家企业和机构提交了超过200份测试结果，显示了AI训练的快速发展。这些提交结果的平均效能较过去5个月增加了2.8倍，比MLPerf开始测试5年来增加了49倍。
这个基准测试展示了各大公司在AI领域的实力和进步。NVIDIA凭借其强大的GPU系统取得了领先的地位，而英特尔和Google也在测试中展示了他们的实力。随着AI技术的不断发展，我们有理由相信未来会有更多的突破和创新。
本文链接：http://www.28at.com/showinfo-27-30041-0.htmlNVIDIA在生成式AI训练基准测试中技压群雄
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
