【ITBEAR】9月25日消息,今日,百度云智大会顺利举行,会上,百度智能云宣布其百舸AI异构计算平台已成功升级至4.0版本,标志着该平台在技术与性能上迈出了重要一步。
据ITBEAR了解,百舸4.0版本的重点升级在于“多芯混训”能力,现已实现在万卡规模集群上达到95%的多芯混合训练效能,显著提升了训练效率。此外,在集群部署环节,升级后的百舸平台展现出了卓越的性能,能够将万卡集群的运行准备时间从数周缩短至最快1小时,极大地提高了部署效率。
针对大模型训练过程中常见的故障问题,百舸4.0也进行了全面的优化。通过升级故障检测手段和自动容错机制,该平台有效降低了故障发生的频次,并大幅减少了集群故障的处理时间,确保了万卡集群上超过99.5%的有效训练时长。
在模型推理方面,百舸4.0版本同样带来了显著的优化。通过对推理速度和成本的全面调整,该平台的长文本推理效率提升了1倍以上,为用户提供了更加高效、经济的推理解决方案。
此次百舸AI异构计算平台的升级,无疑将进一步推动AI技术的发展与应用,为用户提供更加高效、稳定的计算服务。
#百度智能云# #百舸AI异构计算平台# #多芯混训# #模型推理# #集群部署#
本文链接:http://www.28at.com/showinfo-45-7682-0.html百度百舸AI计算平台4.0发布,AI领域又有新突破?
声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com