随着AI科技的快速发展，其能源需求也日益增长。然而，Meta生成式人工智能工程总监Sergey Edunov在近日举办的数码工作者论坛上表示，实际上，AI的能源需求并不像大家想象的那么高。他预测，只要再建设两座核电厂，就足以满足2024年日益增长的AI应用需求。
Edunov强调，AI模型的训练和推论是两个不同的过程。训练是通过大量数据使模型具备推论能力，而推论则是使用已训练好的模型进行实际任务。他指出，大型语言模型（LLMs）的训练是近期关注的焦点，而一旦这些模型被训练好，就可以反复执行推论任务。
他预计，2023年NVIDIA将出货100万至200万个H100 GPU。每个H100 GPU的电力需求约为700瓦，加上数据中心和冷却的电力消耗，每个GPU的电力需求约为1,000瓦。他估算，全球只要再建设两个核子反应炉，就可以供应这些H100 GPU的电力需求。他补充说，从人类的角度来看，这样的电力需求并不算过分。
Google的Kevin Tsai提出了其他减轻训练压力的方法，例如检索增强生成（RAG），这是一种使LLM变得更聪明的方法，它利用组织内部的数据库来微调基础模型。他强调，社区可以共同开发实用的模型，并在多个场合应用，这对地球环境更为友好。
关于LLM的未来发展，Edunov认为可能会迎来爆炸性增长，但也可能开始趋缓。无论如何，未来3到4年内将会有答案，我们可以知道目前的技术能否实现人工通用智能（AGI）。NVIDIA生成式AI部门主任Nik Spirin预计，未来两年内，企业将从中获得巨大价值。
本文链接：http://www.28at.com/showinfo-27-34398-0.html核能助力AI发展，Meta：再建两座电厂满足AI需求
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
下一篇： Altman回归，微软松口气
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
