随着AI科技的快速发展,其能源需求也日益增长。然而,Meta生成式人工智能工程总监Sergey Edunov在近日举办的数码工作者论坛上表示,实际上,AI的能源需求并不像大家想象的那么高。他预测,只要再建设两座核电厂,就足以满足2024年日益增长的AI应用需求。
Edunov强调,AI模型的训练和推论是两个不同的过程。训练是通过大量数据使模型具备推论能力,而推论则是使用已训练好的模型进行实际任务。他指出,大型语言模型(LLMs)的训练是近期关注的焦点,而一旦这些模型被训练好,就可以反复执行推论任务。
他预计,2023年NVIDIA将出货100万至200万个H100 GPU。每个H100 GPU的电力需求约为700瓦,加上数据中心和冷却的电力消耗,每个GPU的电力需求约为1,000瓦。他估算,全球只要再建设两个核子反应炉,就可以供应这些H100 GPU的电力需求。他补充说,从人类的角度来看,这样的电力需求并不算过分。
Google的Kevin Tsai提出了其他减轻训练压力的方法,例如检索增强生成(RAG),这是一种使LLM变得更聪明的方法,它利用组织内部的数据库来微调基础模型。他强调,社区可以共同开发实用的模型,并在多个场合应用,这对地球环境更为友好。
关于LLM的未来发展,Edunov认为可能会迎来爆炸性增长,但也可能开始趋缓。无论如何,未来3到4年内将会有答案,我们可以知道目前的技术能否实现人工通用智能(AGI)。NVIDIA生成式AI部门主任Nik Spirin预计,未来两年内,企业将从中获得巨大价值。
本文链接:http://www.28at.com/showinfo-27-34398-0.html核能助力AI发展,Meta:再建两座电厂满足AI需求
声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com
下一篇: Altman回归,微软松口气