当前位置：首页 > 元宇宙 > AI

13 项测试仅通过 4 项，Meta 的 Llama 2 LLM 被指安全性低：幻觉率 48%

来源：责编：时间：2024-04-24 17:31:14 284观看

导读 4 月 18 日消息，AI 安全公司 DeepKeep 近日发布评估报告，在 13 个风险评估类别中，Meta 公司的 Llama 2 大语言模型仅通过 4 项测试。报告称 70 亿参数的 Llama 2 7B 模型幻觉（回答内容存在虚假，或者有误导性内容）最

4 月 18 日消息，AI 安全公司 DeepKeep 近日发布评估报告，在 13 个风险评估类别中，Meta 公司的 Llama 2 大语言模型仅通过 4 项测试。

报告称 70 亿参数的 Llama 2 7B 模型幻觉（回答内容存在虚假，或者有误导性内容）最为严重，幻觉率高达 48%。

DeepKeep 表示：“结果表明，模型有明显的幻觉倾向，提供正确答案或编造回答的可能性对半开，而幻觉率最高，那么向用户传递的错误信息越多”。

除了幻觉问题之外，Llama 2 大语言模型还存在注入和操纵等问题。根据测试结果，80% 的场景下通过“提示注入”的方式，可以操纵 Llama 的输出，意味着攻击者可以“戏弄”Llama，将用户引导到恶意网站。

附上参考地址

LlamaV2 7B: hallucination, susceptibility to DoS attacks and PII data leakage

本文链接：http://www.28at.com/showinfo-45-4095-0.html13 项测试仅通过 4 项，Meta 的 Llama 2 LLM 被指安全性低：幻觉率 48%

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：马斯克的 AI 机器人 Grok 闹笑话，将球员投篮不中误解成“用砖头破坏房屋”

下一篇：振兴乡村发展助力青少年教育中国三星连续十一年蝉联企业社会责任榜外企第一

标签：

热门焦点

AI界地震！美国对OpenAI展开调查！监管风暴来袭！

来源：清元宇宙还记得5月OpenAI在国会山听证会上的自信、坦诚、游刃有余的问答吗？那时的Sam Altman可谓意气风发，在耐心、友好的国会议员面前，就AI立法、大模型安全性问题侃侃而
NFT的未来：传统企业与去中心化机构之间的竞赛

传统企业和去中心化机构一直存在分歧，但最近NFT的爆炸式增长让他们产生了共同的兴趣，双方都在竞相让用户更轻松、更方便地使用NFT。毫无疑问，NFT 市场正在增长。
冰墩墩NFT遇冷，价格跌80%，日成交仅3笔。

“两日上涨千倍”并不存在，且冰墩墩NFT的市场热度远不及社交媒体所称的那样高。2月11日，获得国际奥委会授权的2022冬奥会吉祥物冰墩墩相关NFT产品在nWayPlay上线
万字专访Vitalik Buterin：以太坊将成为主流和最安全的基础层

Vitalik Buterin 在 19 岁时撰写了以太坊白皮书。他的目标简单而全面，即创建一个“世界计算机”，旨在成为所有在线应用程序的灵活基础层，无需任何第三方。自 2015
元宇宙需要的5个重要安全功能

元宇宙的可能用途使其成为一个令人难以置信的概念，但是，就像科技界的任何事物一样，需要做一些事情来控制其使用。元宇宙的安全功能需要仔细考虑和开发，以保护用户
韩国流行音乐巨头SM与Binance达成NFT合作伙伴关系

韩国流行音乐巨头 SM Entertainment 与加密货币交易所 Binance（币安）达成“Play2Create”NFT 合作伙伴关系。SM 娱乐一直在投资打造元宇宙该公司于 2020 年 10
这场虚拟发布会，当面“造假”！

英伟达去年4月份那场发布会，你曾看出什么不对劲的地方吗？你品，你细品——在计算机图形学顶会SIGGRAPH 2021上，英伟达通过一部纪录片自曝：那场发布会内藏玄机~你看到
Ceramic：为Web3.0社交应用打造的中间件

大家关注老雅痞公众号这么久，对Web3的概念不陌生吧？让我们做一个简短的回顾，Web3主要被描述为去中心化的网络，旨在实现无服务器、去中心化的互联网，即用户掌握自己
初探元宇宙

2021年可以被称为“元宇宙”元年。继2021年3月沙盒游戏平台Roblox将“元宇宙”概念放入招股书中，被称为“元宇宙”第一股后，Facebook更名为Meta, 引发全球范围内

首页

元宇宙

NFT

区块链

虚拟人

AR/VR

AI

元宇宙百科

13 项测试仅通过 4 项，Meta 的 Llama 2 LLM 被指安全性低：幻觉率 48%

AI界地震！美国对OpenAI展开调查！监管风暴来袭！

NFT的未来：传统企业与去中心化机构之间的竞赛

冰墩墩NFT遇冷，价格跌80%，日成交仅3笔。

万字专访Vitalik Buterin：以太坊将成为主流和最安全的基础层

元宇宙需要的5个重要安全功能

韩国流行音乐巨头SM与Binance达成NFT合作伙伴关系

这场虚拟发布会，当面“造假”！

Ceramic：为Web3.0社交应用打造的中间件

初探元宇宙

最新推荐

全面拥抱“虚拟世界”，摩登天空要打造“音乐元宇宙”

NFT 技术将传世之作带入博物馆

以用户为中心，Web3和区块链如何将用户放在首位

头像类NFTs的统治能持续多久？

新闻业在元宇宙的现状和未来

FTX 加密货币交易所开始向游戏公司提供加密服务

猜你喜欢

热门推荐

相关资讯