英伟达新 nGPT 架构撬动 AI 未来：超球面学习提效，训练模型时间可缩短至 1 20

10 月 22 日消息，科技媒体 dataconomy 昨日（10 月 21 日）发布博文，报道称英伟达在训练 AI 模型方面取得重大突破，发布了最新的 Normalized Transformer（nGPT）新架构，保持模型的稳定性和准确性的前提下，可以将训练 AI 时间缩短至 1/4 或者 1/20。3OU28资讯网——每日最新资讯28at.com

nGPT 架构提升效率的秘诀在于“超球面学习”（Hyperspherical learning）这个概念。3OU28资讯网——每日最新资讯28at.com

传统的变换器模型通常缺乏一致的几何框架，而 nGPT 通过将嵌入、注意力矩阵和隐藏状态等关键组件映射到超球面表面，确保模型各层在训练过程中保持平衡。3OU28资讯网——每日最新资讯28at.com

这种几何结构有助于创造更稳定高效的学习过程：3OU28资讯网——每日最新资讯28at.com

减少训练步骤：nGPT 不再直接对模型权重应用权重衰减，而是依赖学习到的缩放参数，优化模型在训练中的调整方式。3OU28资讯网——每日最新资讯28at.com

简化过程：此方法消除了对 LayerNorm 或 RMSNorm 等归一化技术的需求，使训练过程更为简单和快速。3OU28资讯网——每日最新资讯28at.com

英伟达团队使用 OpenWebText 数据集进行测试，nGPT 在速度和效率上均优于传统的 GPT 模型。对于长达 4000 个 tokens 的文本输入，nGPT 所需的训练轮次远少于传统模型，显著缩短了训练时间。3OU28资讯网——每日最新资讯28at.com

3OU28资讯网——每日最新资讯28at.com

3OU28资讯网——每日最新资讯28at.com

nGPT 的一个关键优势是将归一化（normalization）和表示学习（representation learning）结合成一个统一框架，这种设计简化了模型架构，便于扩展和适应更复杂的混合系统。未来，nGPT 的方法可能被整合进其他类型的模型和架构，从而开发出更强大的 AI 系统。3OU28资讯网——每日最新资讯28at.com

附上参考地址3OU28资讯网——每日最新资讯28at.com

nGPT: Normalized Transformer with Representation Learning on the Hypersphere3OU28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-9228-0.html英伟达新 nGPT 架构撬动 AI 未来：超球面学习提效，训练模型时间可缩短至 1 20

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 微软携手英伟达“撒钱”，海量 AI 资源助推医疗、健康领域突破

下一篇： 马斯克的 xAI 正式发布 API，开发者可将 Grok 集成到其他应用