日本三大运营商,包括NTT集团、KDDI、软银(SoftBank),纷纷着手开发生成式AI(Generative AI)。NTT自行开发的生成式AI,将先在集团内试用,并预定2023年度(2023/4~2024/3;FY23)内向企业客户提供服务。
NTT在2023年6月已经表明,将研发生成式AI,供应给企业客户,这种生成式AI将学习金融、医疗、法律等领域的专业知识,预计2023年度内推出。
NTT生成式AI的大型语言模型(LLM),参数量约70亿~300亿个。OpenAI的ChatGPT所使用的LLM,即GPT-3,参数达1,750亿个,后来的GPT-3.5、GPT-4的参数量则更多。
不同于美国IT厂如OpenAI的泛用型生成式AI,NTT等日厂,通常使用较小的运算资源与较低的成本来训练AI语言模型,针对特定范围,推出生成式AI服务。
2023年8月,NTT集团的NTT Docomo,以及旗下的NTT Communications、NTT Comware等共3间公司,将应用生成式AI,推动公司内的业务,目标是透过提升生成式AI的附加价值来推出新服务。首先将在2023年8月下旬开始,在3间公司内展开实验。
实验过程中,将使用NTT Docomo开发的「LLM附加价值基础架构」,搭配LLM,以提升使用生成式AI时的安全性与便利性,并可保障企业内信息不外流的安全性,以及内容的正确性。
这3间公司内的实验中,针对业务专门性高的问答,可透过上述的基础架构,输入公司规章与守则作为基础,再以LLM生成的文句,来进行回答。
在公司内部检验过回答的正确性与便利性之后,将进一步检讨是否可拿来作为针对客户的AI应答服务。
经过反复调整后,包含对企业客户的验证过后,目标2023年度内,正式推出生成式AI服务。
此外,NTT Docomo保有的大数据,及语音识别、影像识别等AI技术,可搭配这个LLM附加价值基础架构,同时向企业客户推出新的附加价值服务。
NTT Docomo的LLM附加价值基础架构,已确定可以使用Azure OpenAI Service的LLM,提供生成式AI服务并进行实验。
今后,LLM附加价值基础架构也可以根据各种需求,选择不同的LLM,来提供生成式AI服务。例如可采用NTT集团的「NTT研究所」开发、针对各特定领域的LLM。另外,也可采用开源软件、各供应商等提供的各种LLM。
责任编辑:王桢莹
本文链接:http://www.28at.com/showinfo-27-7592-0.htmlNTT自研LLM基础架构 估2023年内推生成式AI服务
声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com
上一篇: 电源供应器龙头台达电 绝不缺席AI服务器