当前位置:首页 > 科技  > 芯片

蚂蚁集团与科大讯飞推动国产算力生态发展

来源:icspec 责编: 时间:2025-03-25 10:12:18 161观看
导读据彭博社援引知情人士消息,3月24日,蚂蚁集团成功利用阿里巴巴、华为等国产芯片,结合混合专家(MoE)架构,训练出参数规模达2900亿的大模型“Ling-Plus”。该模型性能与使用英伟达H800芯片训练的同类模型相当,同时训练成本降低
据彭博社援引知情人士消息,3月24日,蚂蚁集团成功利用阿里巴巴、华为等国产芯片,结合混合专家(MoE)架构,训练出参数规模达2900亿的大模型“Ling-Plus”。该模型性能与使用英伟达H800芯片训练的同类模型相当,同时训练成本降低了20%。这是继科大讯飞“星火大模型”之后,国产算力生态迎来的又一标志性成果。
针对外媒报道,蚂蚁集团向观察者网回应称,其持续优化不同芯片的性能,以降低AI应用成本,并取得了一定进展。蚂蚁方面表示,这些成果将逐步通过开源分享。根据蚂蚁集团Ling团队发布的论文,其自研的Ling系列模型在国产芯片(如壁仞科技、天数智芯、寒武纪等)支持下,训练1万亿Token的成本从635万元降至508万元,降幅达20%,性能仍可媲美阿里通义Qwen2.5-72B和DeepSeek-V2.5。
蚂蚁集团的这一技术突破,不仅在于自研性能领先的大模型,还提出了多项创新方法,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片的稠密模型及MoE模型相当。蚂蚁自研的百灵大模型于2023年通过备案,重点应用于生活服务、金融服务、医疗健康等领域。
与此同时,科大讯飞与华为联合团队宣布,成功在昇腾国产算力集群上实现MoE模型的大规模跨节点专家并行推理。这是业界首个完全基于国产算力的解决方案。通过算子融合、混合并行策略和通信计算并行优化等创新,科大讯飞在国产算力上实现了显著性能提升:单卡静态内存占用缩减至双机部署的1/4,效率提升75%,专家计算密度增加4倍,推理吞吐提升3.2倍,端到端时延降低50%。
科大讯飞表示,这一突破性方案将应用于讯飞星火深度推理模型的训练加速,预期训练时推理效率将提升200%。同时,基于该方案的推理引擎也实现了国产算力上DeepSeek-V3和R1的高效推理。

本文链接:http://www.28at.com/showinfo-27-138593-0.html蚂蚁集团与科大讯飞推动国产算力生态发展

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 江波龙拟赴港上市!净利暴涨160%!

下一篇: 飞凯材料子公司拟购JNC苏州公司及相关专利

标签:
  • 热门焦点
  • 红魔电竞平板评测:大屏幕硬实力

    前言:三年的疫情因为要上网课的原因激活了平板市场,如今网课的时代已经过去,大家的生活都恢复到了正轨,这也就意味着,真正考验平板电脑生存的环境来了。也就是面对着这种残酷的
  • Automa-通过连接块来自动化你的浏览器

    1、前言通过浏览器插件可实现自动化脚本的录制与编写,具有代表性的工具就是:Selenium IDE、Katalon Recorder,对于简单的业务来说可快速实现自动化的上手工作。Selenium IDEKat
  • 从 Pulsar Client 的原理到它的监控面板

    背景前段时间业务团队偶尔会碰到一些 Pulsar 使用的问题,比如消息阻塞不消费了、生产者消息发送缓慢等各种问题。虽然我们有个监控页面可以根据 topic 维度查看他的发送状态,
  • 如何通过Python线程池实现异步编程?

    线程池的概念和基本原理线程池是一种并发处理机制,它可以在程序启动时创建一组线程,并将它们置于等待任务的状态。当任务到达时,线程池中的某个线程会被唤醒并执行任务,执行完任
  • .NET 程序的 GDI 句柄泄露的再反思

    一、背景1. 讲故事上个月我写过一篇 如何洞察 C# 程序的 GDI 句柄泄露 文章,当时用的是 GDIView + WinDbg 把问题搞定,前者用来定位泄露资源,后者用来定位泄露代码,后面有朋友反
  • 认真聊聊东方甄选:如何告别低垂的果实

    来源:山核桃作者:财经无忌爆火一年后,俞敏洪和他的东方甄选依旧是颇受外界关心的“网红”。7月5日至9日,为期5天的东方甄选“甘肃行”首次在自有App内直播,
  • 造车两年股价跌六成,小米的估值逻辑变了吗?

    如果从小米官宣造车后的首个交易日起持有小米集团的股票,那么截至2023年上半年最后一个交易日,投资者将浮亏59.16%,同区间的恒生科技指数跌幅为52.78%
  • OPPO K11搭载长寿版100W超级闪充:26分钟充满100%

    据此前官方宣布,OPPO将于7月25日也就是今天下午14:30举办新品发布会,届时全新的OPPO K11将正式与大家见面,将主打旗舰影像,和同档位竞品相比,其最大的卖
  • “买真退假” 这种“羊毛”不能薅

    □ 法治日报 记者 王春   □ 本报通讯员 胡佳丽  2020年初,还在上大学的小东加入了一个大学生兼职QQ群。群主“七王”在群里介绍一些刷单赚
Top