教 AI 入侵 AI，科学家研发 Masterkey 新方式

12 月 29 日消息，新加坡南洋理工大学（NTU）的计算机科学专家近日研发了新的方法，可以使用聊天机器人来入侵聊天机器人。cNH28资讯网——每日最新资讯28at.com

该科研团队训练了一个 AI 聊天机器人，可以绕过其它 AI 聊天的安全限制。cNH28资讯网——每日最新资讯28at.com

cNH28资讯网——每日最新资讯28at.com

团队研发了名为 Masterkey（LLM）的算法，逆向设计了 LLM 检测和防御恶意查询的方式，然后教会 LLM 自动学习并通过相关提示词，可以绕过其他 LLM 的安全性。cNH28资讯网——每日最新资讯28at.com

团队通过这种方式，可以创建一个黑客 LLM，它可以自动适应新条件，并在开发人员对其 LLM 进行更正后创建新的黑客请求。cNH28资讯网——每日最新资讯28at.com

研究团队成功利用这种方式入侵 AI 模型之后，已经通知服务提供商相关问题。cNH28资讯网——每日最新资讯28at.com

附上《新闻稿原文地址》，感兴趣的用户可以深入阅读。cNH28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-3111-0.html教 AI 入侵 AI，科学家研发 Masterkey 新方式

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 清华大学研发 LLM4VG 基准：用于评估 LLM 视频时序定位性能

下一篇： 优必选宣布港交所挂牌上市，成为“人形机器人第一股”