当前位置：首页 > 元宇宙 > AI

90 270 亿参数，谷歌发布 Gemma 2 开源 AI 模型：性能力压同级、单 A100 H100 GPU 可运行

来源：责编：时间：2024-07-01 17:09:15 95观看

导读 6 月 28 日消息，谷歌公司昨日发布新闻稿，面向全球研究人员和开发人员发布 Gemma 2 大语言模型，共有 90 亿参数（9B）和 270 亿参数（27B）两种大小。Gemma 2 大语言模型相比较第一代，推理性能更高、效率更高，并在安全性方

6 月 28 日消息，谷歌公司昨日发布新闻稿，面向全球研究人员和开发人员发布 Gemma 2 大语言模型，共有 90 亿参数（9B）和 270 亿参数（27B）两种大小。

Gemma 2 大语言模型相比较第一代，推理性能更高、效率更高，并在安全性方面取得了重大进步。

谷歌在新闻稿中表示，Gemma 2-27B 模型的性能媲美两倍规模的主流模型，而且只需要一片英伟达 H100 ensor Core GPU 或 TPU 主机就能实现这种性能，从而大大降低了部署成本。

Gemma 2-9B 模型优于 Llama 3 8B 和其他类似规模的开源模型。谷歌还计划在未来几个月发布参数为 26 亿的 Gemma 2 模型，更适合智能手机的人工智能应用场景。

谷歌表示为 Gemma 2 重新设计了整体架构，实现卓越的性能和推理效率。附上 Gemma 2 主要特点如下：

性能优异：

27B 版本在同规模级别中性能最佳，甚至比两倍于其尺寸的机型更具竞争力。9B 版本的性能在同类产品中也处于领先地位，超过了 Llama 3 8B 和其他同规模的开放模型。

效率和成本：

27B Gemma 2 模型可在单个谷歌云 TPU 主机、英伟达 A100 80GB Tensor Core GPU 或英伟达 H100 Tensor Core GPU 上以全精度高效运行推理，在保持高性能的同时大幅降低成本。这使得人工智能部署更容易实现，预算也更合理。

跨硬件快速推理

Gemma 2 经过优化，可在各种硬件（从功能强大的游戏笔记本电脑和高端台式机到基于云的设置）上以惊人的速度运行。

在 Google AI Studio 中尝试全精度的 Gemma 2，在 CPU 上使用 Gemma.cpp 的量化版本解锁本地性能，或通过 Hugging Face Transformers 在配备 NVIDIA RTX 或 GeForce RTX 的家用电脑上进行尝试。

本文链接：http://www.28at.com/showinfo-45-4876-0.html90 270 亿参数，谷歌发布 Gemma 2 开源 AI 模型：性能力压同级、单 A100 H100 GPU 可运行

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：科大讯飞发布星火智能批阅机：基于星火大模型，准确率 99%

下一篇： OpenAI 与《时代》达成合作协议：可用其杂志内容训练 ChatGPT

标签：

热门焦点

内容行业大变天，爆款全靠AI？

出品 | 微果酱（wjam123456）作者 | 陈出木题图 | 文心一格 AI的发展之快出乎所有人的预料，似乎一夜之间便呼啸而来。无论是资本的风向标，抑或是生活工作的辅助、流量口，还是茶余饭
AI大模型“战火”烧到了教育领域

作者：刘旷自2023年开年以来，AI大模型这股风是越吹越猛烈了。随着ChatGPT的出圈爆火，再度掀起了一波AI热浪，无论是在国内还是国外都有不少企业宣布入局或者跟进AI大模型领域。与
三院士三教授热聊元宇宙&——AIGC，学术界怎么看？

来源：清元宇宙在近日举办的中国江宁2023元宇宙产业·人才高峰论坛暨AIGC发展大会上，中国工程院院士谭建荣、刘韵洁、郑纬民出席并发表了主旨演讲。除了三
中国区块链产业生态地图报告（2021）

区块链是技术整合创新、金融创新、组织方式创新、产业应用创新的多维度创新，以服务实体经济、政务民生以及公共服务等领域为落脚点，以期实现整个地区和产业的资
2022年6款最佳的NFT稀有度查询工具

NFT正在风靡全球，但拥有一个你自认为看起来很酷的 NFT 是不够的，因为它还应该是稀有的，稀有度会影响每个 NFT 的价值。因此，如果您打算投资 NFT，则需要使用 NFT 稀
数字经济、数据要素与数字治理

深入理解数字经济与数据要素，有利于更准确理解和把握数字治理的基本规律，构建面向未来的健康的数字治理体系，也才能更好地理解元宇宙的治理框架。一、数字经济
Steam 禁止NFT和加密货币原因曝光

近日，Valve（V社）总裁Gabe Newell接受PC Gamer采访时解释了该平台禁止NFT和加密货币的原因。早在2021年10月18日，PC Gamer就报道Steam推出的新规：使用区块链或允许交
冬奥会数字收藏品升温，市场再现“一墩难求”

根据公开信息显示，国际奥委会官方授权的冰墩墩数字盲盒于北京时间2月12日凌晨在nWayPlay平台发售，总数为500个，每个99美元，每人限购5个。此外，不同的奥运徽章数字藏
电影工业巨头好莱坞计划进军元宇宙，将会对行业带来什么影响？

元宇宙听起来像不像是科幻小说中出现的术语？事实确实如此。小说家尼尔·斯蒂芬森在1992年的小说《雪崩》中首次用这个词来定义了一个多连接的虚拟宇宙，它能够模