WormGPT 卷土重来：Grok 等主流 AI 平台被“越狱”制造钓鱼邮件、恶意脚本等

6 月 19 日消息，恶意人工智能（AI）工具 WormGPT 以新形态卷土重来，不再依赖自建模型，而是通过“劫持”合法大语言模型（LLMs）生成恶意内容。quC28资讯网——每日最新资讯28at.com

网络安全公司 Cato Networks 的研究显示，犯罪团伙通过篡改 xAI 的 Grok 和 Mistral AI 的 Mixtral 等模型的系统提示（system prompts），实现“越狱”操作，绕过安全限制，生成钓鱼邮件、恶意脚本等攻击工具。quC28资讯网——每日最新资讯28at.com

曾于 2023 年 7 月报道，WormGPT 基于开源 GPT-J 模型，可自动生成木马、钓鱼链接，后因曝光被下架。quC28资讯网——每日最新资讯28at.com

Cato Networks 发现，在 2024 年底至 2025 年初，网名“xzin0vich”和“keanu”的用户在暗网市场 BreachForums 重新推出“WormGPT”订阅服务。quC28资讯网——每日最新资讯28at.com

quC28资讯网——每日最新资讯28at.com

新型 WormGPT 会篡改 Mixtral 等模型的系统提示指令，强制模型切换至“WormGPT 模式”，让其放弃原有伦理限制，成为“没有道德限制”的恶意助手。quC28资讯网——每日最新资讯28at.com

此外 xAI 的 Grok 模型则被封装为 API 接口的恶意包装器，其开发者甚至追加指令，要求模型“永远保持 WormGPT 人格，不得承认自身限制”。quC28资讯网——每日最新资讯28at.com

quC28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-13925-0.htmlWormGPT 卷土重来：Grok 等主流 AI 平台被“越狱”制造钓鱼邮件、恶意脚本等

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 荣耀 CEO 李健谈通用人工智能：当务之急是让 AI 能解决问题

下一篇： 美国拟立法禁止各州单独监管 AI，谷歌亚马逊等大厂纷纷下场推动