当前位置:首页 > 元宇宙 > AI

百度全面升级百舸 AI 异构计算平台 4.0、千帆大模型平台 3.0

来源: 责编: 时间:2024-09-27 16:33:00 26观看
导读 9 月 25 日消息,2024 百度云智大会今日在北京召开,百度在大会上宣布全面升级百舸 AI 异构计算平台 4.0、千帆大模型平台 3.0 两大 AI 基础设施,并升级代码助手、智能客服、数字人三大 AI 原生应用产品。百度智能

9 月 25 日消息,2024 百度云智大会今日在北京召开,百度在大会上宣布全面升级百舸 AI 异构计算平台 4.0、千帆大模型平台 3.0 两大 AI 基础设施,并升级代码助手、智能客服、数字人三大 AI 原生应用产品。NSf28资讯网——每日最新资讯28at.com

百度智能云事业群总裁沈抖表示:“2024 年大模型的产业落地正在加速,目前在千帆大模型平台上,文心大模型日均调用量超过 7 亿次,累计帮助用户精调了 3 万个大模型,开发出 70 多万个企业级应用。过去一年,文心旗舰大模型降价幅度超过 90%,主力模型全面免费。”NSf28资讯网——每日最新资讯28at.com

升级百舸 4.0

为满足企业落地大模型从集群创建、开发实验,到模型训练、推理的全旅程算力需求,百度智能云升级发布百舸 AI 异构计算平台 4.0,面向万卡、十万卡集群全面升级算力管理能力。NSf28资讯网——每日最新资讯28at.com

集群创建阶段:百舸 4.0 预置了主流的大模型训练工具,能够实现工具层面的秒级部署,并将万卡集群运行准备时间从几周缩减至 1 小时。NSf28资讯网——每日最新资讯28at.com

NSf28资讯网——每日最新资讯28at.com

开发实验阶段:企业需要针对业务目标对不同架构、参数的模型进行多次测试,进而制定最佳模型训练策略,保障后续训练的性能和效果。百舸 4.0 全新升级的可观测大盘,能够对多芯适配、集群效能、任务自动容错等方面进行全方位监测。NSf28资讯网——每日最新资讯28at.com

模型训练阶段:百舸 4.0 能够自动筛查集群状态,并基于对 GPU 故障的预测,及时转移工作负载,降低故障发生频次。此外,百舸故障秒级感知定位、Flash Checkpoint 模型任务状态回滚等技术,能够减少集群故障处置时间。NSf28资讯网——每日最新资讯28at.com

百度官方表示,目前百舸在万卡集群上实现了有效训练时长占比 99.5% 以上。此外,百舸 4.0 通过集群设计、任务调度、并行策略、显存优化等一系列升级,整体性能相比业界平均水平提升 30%。NSf28资讯网——每日最新资讯28at.com

在模型推理环节,百舸则通过架构分离、KV Cache、负载分配等一系列加速方法,实现了模型推理的降本提效,尤其在长文本推理方面,推理效率号称提升超过 1 倍。NSf28资讯网——每日最新资讯28at.com

百舸 4.0 号称已经构建了十万卡级别的超大规模无拥塞 HPN 高性能网络、10ms 级别超高精度网络监控,以及面向十万卡集群的分钟级故障恢复能力。NSf28资讯网——每日最新资讯28at.com

千帆 3.0,三大服务升级

为了满足企业客户对模型调用、模型开发、应用开发的需求,百度智能云发布千帆大模型平台 3.0。NSf28资讯网——每日最新资讯28at.com

模型调用方面:升级后的千帆平台,不但可以调用包括文心系列大模型在内的近百个国内外大模型,还支持调用语音、视觉等各种传统的小模型。过去一年,文心旗舰大模型降价幅度超过 90%、主力模型全面免费。NSf28资讯网——每日最新资讯28at.com

NSf28资讯网——每日最新资讯28at.com

模型开发方面:对于需要定制、微调专属模型的客户,千帆 3.0 不仅提供了大模型工具链,还支持 CV、NLP、语音等传统模型的开发,并实现数据、模型、算力等资源的统一纳管和调度。NSf28资讯网——每日最新资讯28at.com

NSf28资讯网——每日最新资讯28at.com

模型投入使用后,千帆平台还支持企业将应用中产生的数据,经过采样评估、人工标注、对齐或微调等方式反馈给模型,形成数据飞轮。NSf28资讯网——每日最新资讯28at.com

应用开发方面:针对企业落地大模型的高频应用场景,千帆 3.0 从检索效果、检索性能、存储扩展、调配灵活性四方面对企业级检索增强生成(RAG)进行了升级;针对企业级 Agent 的开发,千帆 3.0 增加了业务自主编排、人工编排、知识注入、记忆能力以及百度搜索等 80 多个官方组件支持。NSf28资讯网——每日最新资讯28at.com

此外,本次大会还发布了智能化低代码应用开发平台“AI 速搭”,通过自然语言对话就能进行企业级应用开发。NSf28资讯网——每日最新资讯28at.com

代码助手、智能客服、数字人升级

为了满足企业直接选购成熟 AI 应用的需求,百度智能云面向数字人、智能客服、代码提效,升级了三大 AI 原生应用产品,汇总升级内容如下:NSf28资讯网——每日最新资讯28at.com

1、基于文心大模型重构的 AI 原生智能客服应用“客悦”:

在用户复杂意图理解、多模态信息交流等方面实现了大幅提升,让智能客服变得更聪明、更拟人。NSf28资讯网——每日最新资讯28at.com

“问题自助解决率”是智能客服领域最关键的考核指标,当前业内平均水平是 80%,升级后,客悦将这一指标提升至 92%。NSf28资讯网——每日最新资讯28at.com

目前,客悦已累计帮助企业客户服务超过 1.5 亿人次,交互超过 5 亿次。NSf28资讯网——每日最新资讯28at.com

2、基于大模型能力,新升级的曦灵数字人 4.0:

支持根据文字快速生成不同妆造、不同行业特色的 3D 数字人形象和视频。本次大会期间,曦灵平台宣布:将 3D 超写实数字人的价格从万元降价至 199 元。NSf28资讯网——每日最新资讯28at.com

全新升级的 4D(3D + 时间维度)自动绑定技术和创新模态迁移技术,还解决了传统 2D 数字人动作僵硬的问题,可以实现人物在不同角度、形体、表情的高度一致,即使是面部微表情也能做到自然、逼真。NSf28资讯网——每日最新资讯28at.com

3、全新升级的全流程 AI 代码提效工具“文心快码”:

本次大会,文心快码业界首发「企业级代码架构解释」、「企业级代码审查」两项全新功能。企业级代码架构解释能在项目接手初期,实现工程架构的智能解读,帮工程师快速理解业务逻辑;而企业级代码审查则能传承资深工程师的编码经验,智能辅助程序员查缺补漏。NSf28资讯网——每日最新资讯28at.com

此外,针对市面上通用代码助手缺乏对企业历史代码库的理解的痛点,文心快码全新升级的「企业级代码辅助能力」能够深度理解企业代码库,快速学习企业过往的代码与规范,让生成的代码更贴近企业的要求。NSf28资讯网——每日最新资讯28at.com

目前,文心快码已经服务超过 1 万家企业客户,整体研发效率提升 20%。NSf28资讯网——每日最新资讯28at.com

NSf28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-45-7792-0.html百度全面升级百舸 AI 异构计算平台 4.0、千帆大模型平台 3.0

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 任天堂独树一帜:宫本茂揭秘,AI技术应用的非传统之路

下一篇: 端侧最强开源 AI 模型 Llama 3.2 登场:可在手机运行,从 1B 纯文本到 90B 多模态,挑战 OpenAI 4o mini

标签:
  • 热门焦点
  • B端难做:留给魔珐科技的时间不多了

    B端难做:留给魔珐科技的时间不多了

    来源:零态LT元宇宙泡沫正在碎裂,进入2023年后这一赛道热度一直在递减。今年2月,微软解散了成立仅四个月的工业元宇宙部门;今年3月,该公司2017年收购的虚拟现实社交平台AltspaceVR
  • 10亿基金,李彦宏呼唤下一个AI独角兽

    10亿基金,李彦宏呼唤下一个AI独角兽

    ©️深响原创 · 作者|何文 AI太热了。 在海外,OpenAI估值已超270亿美元、英伟达市值破万亿、微软把GPT整合进了全线产品。在国内,百度、阿里、华为、商汤等大公司,以及
  • 25万虚拟er在“元宇宙”追星

    25万虚拟er在“元宇宙”追星

    “默叽默叽,我是默默酱,我是在真元宇宙也有头有脸的人。”12月11日晚20:00,虚拟偶像@默默酱的首场个人元宇宙演唱会《以梦为马,抵达繁星》在大有空间APP
  • 抢先推出“元宇宙”饮料,可口可乐赢麻了

    抢先推出“元宇宙”饮料,可口可乐赢麻了

    试图傍上元宇宙的品牌千千万,但像可口可乐玩得这么花的,属实不多。01 可口可乐盯上元宇宙1886年,可口可乐诞生于美国乔治亚州亚特兰大市,至今已拥有136年的悠久历
  • 高通成立欧洲XR实验室;ICICB计划进军元宇宙......

    高通成立欧洲XR实验室;ICICB计划进军元宇宙......

    扩展现实(XR)通过计算机将真实与虚拟相结合,打造了一个可人机交互的虚拟环境,将AR、VR、MR多种技术相融合,为体验者带来了虚拟世界与现实世界之间无缝转换的“沉浸
  • 与元宇宙美少女艺术家的对话

    与元宇宙美少女艺术家的对话

    我最近宣布了我自己的NFT项目,这是我已经工作了几个月的事情。由于我之前只是一个收藏家,拥有自己的项目真的给了我一个新的视角来看待这个领域。我一直欢迎人们
  • 赵长鹏预测SoicalFi为今年主要驱动力,新的机会在哪里?

    赵长鹏预测SoicalFi为今年主要驱动力,新的机会在哪里?

    作者:五火球教主前不久,赵长鹏在《财富》杂志印度版块刊登评论。他表示:“DeFi 在 2021 年出现了快速创新,我们可能会在 2022 年看到蓬勃发展的兴趣和创新,其中 Soc
  • 电影工业巨头好莱坞计划进军元宇宙,将会对行业带来什么影响?

    电影工业巨头好莱坞计划进军元宇宙,将会对行业带来什么影响?

    元宇宙听起来像不像是科幻小说中出现的术语?事实确实如此。小说家尼尔·斯蒂芬森在1992年的小说《雪崩》中首次用这个词来定义了一个多连接的虚拟宇宙,它能够模
  • TX加入的NFT数字收藏品,元宇宙的破圈之路?

    TX加入的NFT数字收藏品,元宇宙的破圈之路?

    3月7日,澳大利亚 NFT 初创公司 Immutable 在新加坡淡马锡牵头的R资中以估值 25 亿美元完成2亿美元R资,腾讯参投。想必国人最熟知的应该就是TX,作为国内四大互联网
Top