在近日举办的“逐光向新·智领未来”华为云AI峰会上，与会专家和行业代表聚焦人工智能基础设施的最新进展与行业应用实践，共同探讨了AI技术的未来发展路径。
华为云在峰会上详细介绍了其最新的CloudMatrix 384超节点架构技术。据华为云副总裁黄瑾介绍，该架构通过高速总线互联和超大NPU点到点互联带宽，实现了全局内存的统一编址和统一通讯协议，打破了传统算力瓶颈。CloudMatrix 384超节点具备六大领先技术优势，包括MoE亲和、以网强算、以存强算、长稳可靠、朝推夜训、即开即用，旨在满足新一代AI基础设施的需求。
值得注意的是，华为云在峰会上还宣布将于今年第三季度推出“朝推夜训”的灵活调度策略。该策略旨在利用白天进行模型推理，夜间等闲时进行模型训练，预计能够提升算力资源利用率30%以上。黄瑾强调，随着AI模型复杂性的提升，集群网络通信面临挑战，而CloudMatrix超节点架构正是为了应对这一问题而设计的。
硅基流动联合创始人兼首席产品官胡健也在峰会上发表了演讲。他提到，开源模型在AI应用领域的重要性日益提升，性能也在不断进步。硅基流动与华为云紧密合作，针对DeepSeek-R1模型的部署采用了大规模专家并行方案，通过实施多专家负载均衡和极致通信优化策略，有效提升了模型的吞吐量和性能。实验数据显示，在保障单用户20TPS水平的前提下，单卡解码吞吐率已突破1920 Tokens/s。
华为云数据中心全球DC运维首席专家谢峰深入探讨了AI数据中心所面临的独特挑战，包括超大规模光链路的波动性、高功率密度带来的供电稳定需求以及超高密液冷散热的问题。他介绍，华为云数据中心通过产品化实现了快速交付、低成本和低PUE，并在锂电预测、液冷预测等智能化方面进行实践，着力构建绿色低碳、稳定可靠、安全可信的云数据中心。谢峰还分享了CloudMatrix 384超节点数据中心在利用数据分析进行设备状态预测方面的进展，特别是在锂电预测的应用上，通过扩展数据集范围，CloudMatrix 384的预测准确率已从最初的40%提升至97%。
保险行业也在经历从人治向数据化治理的转型。大家保险信息科技部总经理郝晓波指出，保险行业的AI化转型是数字化转型的自然延伸，敏捷化的AI战略可能更适合传统行业。大家保险正借助华为云的算力及AI平台，构建企业级AI中台和业务应用，覆盖智能营销、风控投资等业务环节，以期推动保险业务的增长。德勤中国合伙人刘晓羽则表示，德勤中国利用基于华为昇腾云和DeepSeek构建的AI平台和工具，为客户提供面向特定业务场景的AI咨询和解决方案服务，预期将实现策略性的降本增效。
本文链接：http://www.28at.com/showinfo-45-12927-0.html华为云“朝推夜训”策略来袭，算力资源利用率将提升30%？
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
