当前位置:首页 > 元宇宙 > 元宇宙

【申万宏源】必然的碎片化AI落地,哪种路径可能胜出? | 元宇宙Meta洞见

来源: 责编: 时间:2023-08-11 16:52:27 4328观看
导读 大规模预训GPT(Generative PreTraining)是OpenAI在2018年提出的模型,大规模预训练模型(大模型)渐渐成为了AI算法领域的热点。AI产业链:从算力到应用工作流程视角• 算法设计环节:机器视觉、语音识别、自然语

Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

大规模预训GPT(Generative PreTraining)是OpenAI在2018年提出的模型,大规模预训练模型(大模型)渐渐成为了AI算法领域的热点。Ceh28资讯网——每日最新资讯28at.com

AI产业链:从算力到应用

工作流程视角
Ceh28资讯网——每日最新资讯28at.com

• 算法设计环节:机器视觉、语音识别、自然语音处理、知识图谱Ceh28资讯网——每日最新资讯28at.com

• 算法实现环节:深度学习框架,训练、推理部署,对模型的调参优化Ceh28资讯网——每日最新资讯28at.com

• 算法运行环节:AI芯片和AIDC超算中心,提供硬件基础Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com

AI平台层:何种训练模型可以脱颖而出

AI平台:少量企业参与的AI高地之争
Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

• 训练软件框架:实现深度学习训练算法的模块化封装Ceh28资讯网——每日最新资讯28at.com

• 模型生产平台:实现模型的工业级生产Ceh28资讯网——每日最新资讯28at.com

• 推理部署框架:实现模型生产完成后的工业级高效、自动的部署Ceh28资讯网——每日最新资讯28at.com

• 数据平台:包括数据采集、数据标注、数据生产、数据存储等功能Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

训练框架:调节参数,生成参数Ceh28资讯网——每日最新资讯28at.com

训练框架是AI的重要基石,也是AI发展战略的制高点。当算法变成改造甚至颠覆软件行业的力量时,最后核心就是看这些AI的公司有没有平台化的能力,即“能够批量、高效、比竞争对手更及时地供应优质算法。Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

推理框架:与硬件和设备端紧密相关Ceh28资讯网——每日最新资讯28at.com

推理框架:主要部署在设备端和云端,因此与硬件厂商紧密相关。Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

开源框架的选择:规模效应与生态Ceh28资讯网——每日最新资讯28at.com

四大顶级深度学习框架阵营可以满足绝大部分开发者要求。社区规模效应:维护力量、贡献人员决定了算法库扩展及时性、API水平,软件框架规模效应较强。Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com

AI大模型:成为行业新趋势

行业更新热点在“大模型”
Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

传统机器学习里,模型过小则欠拟合,模型过大则过拟合。深度学习里Double Descent现象在2018年揭示,随着模型参数变多,Test Error是先下降,再上升,然后第二次下降;原则上,在成本可接受的情况下,模型越大,准确率越好。Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

OpenAI :GPT-3Ceh28资讯网——每日最新资讯28at.com

GPT-3在许多NLP数据集上均具有出色的性能,包括翻译、问答和文本填空任务,这还包括一些需要即时推理或领域适应的任务,例如给一句话中的单词替换成同义词,或执行3位数的数学运算。Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

GPT-3工具DALL·E和“逻辑”优化Ceh28资讯网——每日最新资讯28at.com

基于GPT-3构建,仅使用了120亿个参数样本,相当于GPT-3参数量的十四分之一;有利于降低了深度学习需要的数据标注量,文本和图像理解结合起来Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

优势显著Ceh28资讯网——每日最新资讯28at.com

• 自监督学习功能,大幅降低对数据量的需求:GPT舍弃Fine-tuning,先使用海量数据预训练大模型,得到一套模型参数,然后用这套参数对模型进行初始化,再进行训练。大幅降低后续对数据量的需求。Ceh28资讯网——每日最新资讯28at.com

• 预训练大模型+细分场景微调,更适合长尾落地:大规模预训练可以有效地从大量标记和未标记的数据中捕获知识,通过将知识存储到大量的参数中并对特定任务进行微调,极大扩展模型的泛化能力。Ceh28资讯网——每日最新资讯28at.com

• 有望进一步突破现有模型结构的精度局限:可能继续突破精度上限。Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com

AI碎片化问题:必然性的两种路径

AI落地和碎片化需求同时出现
Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

业界在2015-2017年后开始发生变化,AI走出实验室和商业模式转变:Ceh28资讯网——每日最新资讯28at.com

• 工业场景更复杂的逻辑:编程模式从静态网络结构描述向动态计算过程转变。Ceh28资讯网——每日最新资讯28at.com

• SDK商业模式可能无法在国内落地:早期试图复制海外SDK销售路线,但这一模式无法在国内复制。Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

两种路径的总结Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com

Ceh28资讯网——每日最新资讯28at.com


Ceh28资讯网——每日最新资讯28at.com

设计并训练工业级的高性能AI模型需要大量的成本投入和深厚的技术沉淀,包含多场景汇总的海量数据,复杂的模型设计和训练算法,以及复杂的软件框架和硬件系统在内的大型计算基础设施,AI公司需要突破技术发展的瓶颈。Ceh28资讯网——每日最新资讯28at.com

-END-
Ceh28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-40-64-0.html【申万宏源】必然的碎片化AI落地,哪种路径可能胜出? | 元宇宙Meta洞见

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 【东方证券】虚拟世界照进现实,元宇宙中有什么? | 元宇宙Meta洞见

下一篇: 元宇宙将会如何塑造未来的工作方式?

标签:
  • 热门焦点
  • AI网红能年赚百万,普通人的新机会来了?

    来源|运营研究社作者 | 张知白编辑 | 杨佩汶设计 | 晏谈梦洁2023 年 ,数字人成为了当红的“流量话题”和“商业机会"。不管是 AI 孙燕姿走红网络,还是 AI 数字
  • 中文在线的“元宇宙”故事,资本听腻了?

    被誉为“元宇宙”龙头之一的中文在线,这下尴尬了。2022年1月11日,中国移动通信联合会元宇宙产业委员会揭牌,接纳涉足“元宇宙”的8家上市公司,包括中青宝、天下秀
  • 冰墩墩还能火多久?

    作者:田巧云题图源自北京2022年冬奥会官方微博如果要问2022年的开年明星是谁,冰墩墩当仁不让。几乎所有人都被那个抖雪的动作实力圈粉。在社交媒体的助推,以及日
  • 元宇宙时代NFT的价值衡量

    有人认为NFT的高昂价格只是炒作的产物,并不具有其对等的价值,但其实NFT并不是空中楼阁,只是区块链数字分类账中的一种形式。诚然,目前的NFT仍处于灰色地带,相关的法
  • Web3 去中心化身份管理系统的历史、现状与展望

    身份、数字资产和在线资料的映射最近在区块链行业获得了极大的关注。新技术正在形成架构,这将进一步为去中心化和以用户为中心的机制铺平道路。本文将讨论以下
  • 元宇宙社交时代,华丽归来的超级QQ秀重构虚拟社交场景

    作者:狂人 不知不觉间,QQ已经迎来了第23个生日。作为国内社交平台的起点,QQ可谓是睥睨全网,不仅有庞大的用户群体,还将虚拟形象及QQ整合成在线虚拟社区,开启了时髦
  • 头像类NFTs的统治能持续多久?

    在过去的一两年里,NFTs在互联网世界中掀起了一场风暴。今天,当我们想到NFTs时,我们主要想到的是那些充斥着我们的社交媒体屏幕的数字卡通--无聊猿、punks 和介于
  • 顶级NFT收藏家Gary Vaynerchuk 与百威推出NFT

    特别声明,我们的文章不作为投资建议,请各位读者独立思考,还是那句话:投资要慎之又慎,谁也不要相信。Gary Verneychuk 和百威 NFT 之一。由 VeynerNFT 提供百威推出
  • Ceramic:为Web3.0社交应用打造的中间件

    大家关注老雅痞公众号这么久,对Web3的概念不陌生吧?让我们做一个简短的回顾,Web3主要被描述为去中心化的网络,旨在实现无服务器、去中心化的互联网,即用户掌握自己
Top