当前位置：首页 > 科技 > 芯片

Meta推出Purple Llama计划，推动LLM安全评测工具的普及

来源：责编：时间：2023-12-11 17:20:06 421观看

导读Meta公司，最近宣布了一项重要计划——Purple Llama计划，旨在推广大型语言模型（LLM）的安全评测工具。这一计划的推出，无疑将为LLM的安全性和可靠性提供更为全面的保障。Llama模型在2月发布，有70亿至650亿个参数的四种大小版

Meta公司，最近宣布了一项重要计划——Purple Llama计划，旨在推广大型语言模型（LLM）的安全评测工具。这一计划的推出，无疑将为LLM的安全性和可靠性提供更为全面的保障。

Llama模型在2月发布，有70亿至650亿个参数的四种大小版本，主要供学术研究使用。7月，Meta发布了Llama 2，包含70亿、130亿、700亿个参数的三种大小版本，不仅供学术界使用，还向商业界开放，但使用条款仍施加了一定的限制。自Llama系列模型发布以来，其总下载次数已经突破了1亿次的大关。

Purple Llama计划是一项具有创新性的计划，它借鉴了网络安全的红队和蓝队协作的理念，融合成了紫队。这个计划包括CyberSec Eval，这是一个专门为LLM设计的安全评估基准，以及Llama Guard，一个用于过滤模型输入和输出数据的安全分类器。这些工具可以帮助开发者量化LLM的网络安全风险，评估LLM产出危险程序码建议的频率，并使LLM更难以产生恶意程序码或助长网络攻击。

除了Meta之外，微软和亚马逊等公司也在积极参与到这个计划中来。微软和Meta都派代表参与了数码发展部启动的AI产品与系统评测中心。这个评测中心将以语言模型为评测对象，参考欧美的规范，制定出10项评测项目，包括安全性、可解释性、弹性、公平性、准确性、透明性、当责性、可靠性、隐私及网安等方面。

Meta的Purple Llama计划不仅是对LLM安全性的一种保障，也是对全球人工智能发展的一种贡献。随着人工智能技术的不断发展，我们期待看到更多这样的计划和合作的出现，共同推动人工智能技术的进步和发展。

本文链接：http://www.28at.com/showinfo-27-42132-0.htmlMeta推出Purple Llama计划，推动LLM安全评测工具的普及

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：「天河星逸」超级电脑：运算能力倍增

下一篇：亚德客在工业自动化领域率先回温，气动元件市场前景看好

标签：

热门焦点

7月安卓手机性价比榜：努比亚+红魔两款新机入榜

7月登场的新机有努比亚Z50S Pro和红魔8S Pro，除了三星之外目前唯二的两款搭载超频版骁龙8Gen2处理器的产品，而且努比亚和红魔也一贯有着不错的性价比，所以在本次的性价比榜单
Raft算法：保障分布式系统共识的稳健之道

1. 什么是Raft算法？Raft 是英文”Reliable、Replicated、Redundant、And Fault-Tolerant”（“可靠、可复制、可冗余、可容错”）的首字母缩写。Raft算法是一种用于在分布式系统
Rust中的高吞吐量流处理

作者 | Noz编译 | 王瑞平本篇文章主要介绍了Rust中流处理的概念、方法和优化。作者不仅介绍了流处理的基本概念以及Rust中常用的流处理库，还使用这些库实现了一个流处理程序
分布式系统中的CAP理论，面试必问，你理解了嘛？

对于刚刚接触分布式系统的小伙伴们来说，一提起分布式系统，就感觉高大上，深不可测。而且看了很多书和视频还是一脸懵逼。这篇文章主要使用大白话的方式，带你理解一下分布式系统
如何通过Python线程池实现异步编程？

线程池的概念和基本原理线程池是一种并发处理机制，它可以在程序启动时创建一组线程，并将它们置于等待任务的状态。当任务到达时，线程池中的某个线程会被唤醒并执行任务，执行完任
三万字盘点 Spring 九大核心基础功能

大家好，我是三友~~今天来跟大家聊一聊Spring的9大核心基础功能。话不多说，先上目录：图片友情提示，本文过长，建议收藏，嘿嘿嘿！一、资源管理资源管理是Spring的一个核心的基础功能，不
使用Webdriver-manager解决浏览器与驱动不匹配所带来自动化无法执行的问题

1、前言在我们使用 Selenium 进行 UI 自动化测试时，常常会因为浏览器驱动与浏览器版本不匹配，而导致自动化测试无法执行，需要手动去下载对应的驱动版本，并替换原有的驱动，可能还
从零到英雄：高并发与性能优化的神奇之旅

作者 | 波哥审校 | 重楼作为公司的架构师或者程序员，你是否曾经为公司的系统在面对高并发和性能瓶颈时感到手足无措或者焦头烂额呢？笔者在出道那会为此是吃尽了苦头的，不过也得
最薄的14英寸游戏笔记本电脑 Alienware X14已可以购买

2022年1月份在国际消费电子展(CES2022)上首次亮相的Alienware新品——Alienware X14现在已经可以购买了，这款笔记本电脑被誉为世界上最薄的 14 英寸游戏笔

Meta推出Purple Llama计划，推动LLM安全评测工具的普及

7月安卓手机性价比榜：努比亚+红魔两款新机入榜

Raft算法：保障分布式系统共识的稳健之道

Rust中的高吞吐量流处理

分布式系统中的CAP理论，面试必问，你理解了嘛？

如何通过Python线程池实现异步编程？

三万字盘点 Spring 九大核心基础功能

使用Webdriver-manager解决浏览器与驱动不匹配所带来自动化无法执行的问题

从零到英雄：高并发与性能优化的神奇之旅

最薄的14英寸游戏笔记本电脑 Alienware X14已可以购买

最新推荐

猜你喜欢

热门推荐

相关资讯