当前位置：首页 > 元宇宙 > 元宇宙

【申万宏源】必然的碎片化AI落地，哪种路径可能胜出？ | 元宇宙Meta洞见

来源：责编：时间：2023-08-11 16:52:27 4126观看

导读大规模预训GPT(Generative PreTraining)是OpenAI在2018年提出的模型，大规模预训练模型（大模型）渐渐成为了AI算法领域的热点。AI产业链：从算力到应用工作流程视角• 算法设计环节：机器视觉、语音识别、自然语

大规模预训GPT(Generative PreTraining)是OpenAI在2018年提出的模型，大规模预训练模型（大模型）渐渐成为了AI算法领域的热点。

AI产业链：从算力到应用

工作流程视角

• 算法设计环节：机器视觉、语音识别、自然语音处理、知识图谱

• 算法实现环节：深度学习框架，训练、推理部署，对模型的调参优化

• 算法运行环节：AI芯片和AIDC超算中心，提供硬件基础

AI平台层：何种训练模型可以脱颖而出

AI平台：少量企业参与的AI高地之争

• 训练软件框架：实现深度学习训练算法的模块化封装

• 模型生产平台：实现模型的工业级生产

• 推理部署框架：实现模型生产完成后的工业级高效、自动的部署

• 数据平台：包括数据采集、数据标注、数据生产、数据存储等功能

训练框架：调节参数，生成参数

训练框架是AI的重要基石，也是AI发展战略的制高点。当算法变成改造甚至颠覆软件行业的力量时，最后核心就是看这些AI的公司有没有平台化的能力，即“能够批量、高效、比竞争对手更及时地供应优质算法。

推理框架：与硬件和设备端紧密相关

推理框架：主要部署在设备端和云端，因此与硬件厂商紧密相关。

开源框架的选择：规模效应与生态

四大顶级深度学习框架阵营可以满足绝大部分开发者要求。社区规模效应：维护力量、贡献人员决定了算法库扩展及时性、API水平，软件框架规模效应较强。

AI大模型：成为行业新趋势

行业更新热点在“大模型”

传统机器学习里，模型过小则欠拟合，模型过大则过拟合。深度学习里Double Descent现象在2018年揭示，随着模型参数变多，Test Error是先下降，再上升，然后第二次下降；原则上，在成本可接受的情况下，模型越大，准确率越好。

OpenAI ：GPT-3

GPT-3在许多NLP数据集上均具有出色的性能，包括翻译、问答和文本填空任务，这还包括一些需要即时推理或领域适应的任务，例如给一句话中的单词替换成同义词，或执行3位数的数学运算。

GPT-3工具DALL·E和“逻辑”优化

基于GPT-3构建，仅使用了120亿个参数样本，相当于GPT-3参数量的十四分之一；有利于降低了深度学习需要的数据标注量，文本和图像理解结合起来

优势显著

• 自监督学习功能，大幅降低对数据量的需求：GPT舍弃Fine-tuning，先使用海量数据预训练大模型，得到一套模型参数，然后用这套参数对模型进行初始化，再进行训练。大幅降低后续对数据量的需求。

• 预训练大模型+细分场景微调，更适合长尾落地：大规模预训练可以有效地从大量标记和未标记的数据中捕获知识，通过将知识存储到大量的参数中并对特定任务进行微调，极大扩展模型的泛化能力。

• 有望进一步突破现有模型结构的精度局限：可能继续突破精度上限。

AI碎片化问题：必然性的两种路径

AI落地和碎片化需求同时出现

业界在2015-2017年后开始发生变化，AI走出实验室和商业模式转变：

• 工业场景更复杂的逻辑：编程模式从静态网络结构描述向动态计算过程转变。

• SDK商业模式可能无法在国内落地：早期试图复制海外SDK销售路线，但这一模式无法在国内复制。

两种路径的总结

设计并训练工业级的高性能AI模型需要大量的成本投入和深厚的技术沉淀，包含多场景汇总的海量数据，复杂的模型设计和训练算法，以及复杂的软件框架和硬件系统在内的大型计算基础设施，AI公司需要突破技术发展的瓶颈。

-END-

本文链接：http://www.28at.com/showinfo-40-64-0.html【申万宏源】必然的碎片化AI落地，哪种路径可能胜出？ | 元宇宙Meta洞见

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：【东方证券】虚拟世界照进现实，元宇宙中有什么？ | 元宇宙Meta洞见

下一篇：元宇宙将会如何塑造未来的工作方式？

标签：

热门焦点

三院士三教授热聊元宇宙&——AIGC，学术界怎么看？

来源：清元宇宙在近日举办的中国江宁2023元宇宙产业·人才高峰论坛暨AIGC发展大会上，中国工程院院士谭建荣、刘韵洁、郑纬民出席并发表了主旨演讲。除了三大院士，还有清华
亚马逊AIGC全家桶来袭，巨头AI大乱战都有什么杀手锏

此前，亚马逊云科技发布多款AIGC产品，其中包括AI大模型服务Amazon Bedrock、人工智能计算实例Amazon EC2 Trn1n和Amazon EC2 Inf2、自研“泰坦”（Titan）AI大模型、软件
元宇宙步入暗夜

撰文 | 文烨豪元宇宙的故事，似乎讲不通了。当下，刮起元宇宙热潮的Roblox股价已跌去大半，带头大哥Meta也正因元宇宙亏损深陷泥潭。再看国内，从字节“派对岛&
刷完一场元宇宙世界杯音乐盛典，我爽了

作者|刘小土编辑|李春晖你有多久没完整追过一场音乐盛典了？三刷都不嫌多的那种。按照惯例，每逢年底，直播、长短视频、音乐平台便会抢着端上来几场音乐盛典。搁以
超跑与NFT的首次结合，兰博基尼能否破局？

兰博基尼公司近日称即将推出它的首款NFT，并且将加速进军区块链领域。这家闻名遐迩的意大利汽车厂商野心勃勃地将目光投向混合动力和电动跑车，并宣布将拍卖与瑞士
元宇宙是推动NFT发展的初始家园

现在大家都知道了什么是NFT，但好像离自己的生活还有一定距离。随着我们与NFT 接触增加，该如何将这些数字资产带入我们的日常生活？NFT还是主流吗？如果我们将“主流
NFTs正迎来数十亿美元的繁荣--NFT零工经济从业者开始暴赚

当Stefan Prodanovic在13岁时开始尝试平面设计，与一位从事编程工作的学校朋友共同创作数字游戏时，他从未料到这个爱好会在他成年后变成一个相当有利可图的生意。
对讽刺无动于衷，Nori将碳市场放在区块链上

当我们聊气候问题的解决方案时，以太坊区块链应该不是最首想到的，但这正是Nori所选择的方案，它建立了一个引擎，鼓励农民使用负碳耕作方法，将空气中的碳抽出并放回地
元宇宙收割了谁

作者：晓宇资本将元宇宙看作下一代互联网的门票，画大饼、割韭菜就成了一大选项。2021年被称为元宇宙元年。在这一年里，先是号称元宇宙第一股的沙盒游戏Roblox盛装

首页

元宇宙

NFT

区块链

虚拟人

AR/VR

AI

元宇宙百科

【申万宏源】必然的碎片化AI落地，哪种路径可能胜出？ | 元宇宙Meta洞见

AI产业链：从算力到应用

AI平台层：何种训练模型可以脱颖而出

AI大模型：成为行业新趋势

AI碎片化问题：必然性的两种路径

三院士三教授热聊元宇宙&——AIGC，学术界怎么看？

亚马逊AIGC全家桶来袭，巨头AI大乱战都有什么杀手锏

元宇宙步入暗夜

刷完一场元宇宙世界杯音乐盛典，我爽了

超跑与NFT的首次结合，兰博基尼能否破局？

元宇宙是推动NFT发展的初始家园

NFTs正迎来数十亿美元的繁荣--NFT零工经济从业者开始暴赚

对讽刺无动于衷，Nori将碳市场放在区块链上

元宇宙收割了谁

最新推荐

一份全面清单：Web3行业高薪酬的13种工作

内容行业大变天，爆款全靠AI？

这场虚拟人争夺战，互联网巨头下场先赢一半？

【量子位】虚拟数字人深度产业报告 | 元宇宙Meta洞见

Terra链上TVL跃升至第二

2022年去中心化交易所会崛起吗？

猜你喜欢

热门推荐

相关资讯