在网络安全领域，人工智能（AI）一直被视为防御的一大利器，其带来的速度、准确性与自动化能力正在彻底改变企业的防护方式。但是，网络安全从业人员必须要关注技术发展的“阴暗面”：网络犯罪分子也在迅速拥抱AI，将大型语言模型（LLMs）与高级代理型AI 技术应用于攻击行为，使得网络攻击更具隐蔽性与破坏性。
以WormGPT 和近期出现的Xanthorox AI 为例，这些并非只是理论层面的威胁，而是真实存在的恶意平台。WormGPT 基于GPT-J 模型构建，被公开宣传为“黑客专用”版本的LLM，具备多项为恶意用途量身定制的功能，据称还曾以恶意软件相关数据进行训练。尽管其开发者已停止运营，但“潘多拉的魔盒”已然被打开。如今，我们正目睹一波“进攻型AI 工具”的崛起，包括BurpGPT、PentestGPT、FraudGPT 与PassGPT 等，还有开发者正计划推出更复杂的模型，如“Evil-GPT-Web3”。这些趋势意味着网络安全进入了一个新的竞争阶段：AI，不再只是防御者的专属武器。
Xanthorox AI 于2025 年第一季度崭露头角，其能力代表着网络攻击技术的一次重大飞跃。与此前的恶意LLM 不同，Xanthorox 并非在现有模型基础上改造而成，而是从零构建的自主模块化系统，完全离线运行，以提升匿名性与抗干扰能力。该系统由五个专用AI 模块组成 ——Xanthorox Coder、V4 模型、Xanthorox Vision、Xanthorox Reasoner Advanced 以及第五协调模块（Fifth Coordination Module）—— 协同完成恶意软件开发、情报侦察、社交工程与多点协调攻击等全过程，完全无需外部监管。这不再是传统意义上的大型语言模型（LLM），而是一种具备“自主代理”能力（agentic AI）的攻击系统，标志着网络犯罪者工具包的逻辑性进化和令人担忧的转变。
AI驱动的钓鱼攻击迅速瓦解品牌信任
AI 技术的发展对品牌保护带来的冲击，在钓鱼攻击领域尤为显著。威胁行为者已经开始利用“提示注入”（prompt injection）技术，操控合法的大型语言模型（LLM）生成极具欺骗性的钓鱼内容。这意味着，钓鱼攻击的生成速度更快、频率更高，且具备令人震惊的个性化程度。
数据显示，2024年全球67.4%的钓鱼事件中已出现AI技术的身影，金融行业则是最主要的攻击目标之一。这不仅仅是数量的增长，更是手法的升级。借助AI，攻击者能够轻松打造高度定制化、极具说服力的攻击手段，包括精准钓鱼（spear-phishing）、深度伪造（deepfakes）以及先进的社交工程技巧等。
邮件攻击变得更快速、更精准
AI 对钓鱼邮件的影响已立竿见影。过去，拼写错误和语法问题常被视为识别诈骗邮件的“警示”；如今，这种方法已不再有效。借助生成式AI，如今的钓鱼邮件在语言风格、语法结构上与真实企业沟通几乎无异。大型语言模型（LLM）不仅提升了邮件撰写的速度与质量，也大幅提高了内容的个性化程度，使攻击得以快速部署和规模化扩散。
早在2021 年的研究就显示，即便是早期AI 所生成的鱼叉式钓鱼邮件，其点击率也高达60%。而2024 年的最新研究则发现，完全由AI 生成的钓鱼邮件在受试者中达成了54% 的点击率，较传统随机钓鱼邮件高出约350%。
2024 年2 月：一家欧洲零售企业的匈牙利分公司在一次商业邮件诈骗（BEC）攻击中损失了1550 万欧元。攻击者利用生成式AI 精准模仿公司内部邮件的语气、风格和排版，向财务人员发送伪装为紧急转账请求的邮件。这些邮件语言无误、上下文准确，成功绕过了传统的检测机制，充分展示了AI 增强型BEC 攻击的破坏力。
深度伪造“未来已来”
除了高度逼真的钓鱼邮件，深度伪造（Deepfake）技术正在为钓鱼攻击开辟全新模式。通过深度学习合成的音频、图像或视频，攻击者如今可以轻松伪造语音留言、模拟视频通话，甚至“复刻”特定人物的外貌与声音，从而实现前所未有的欺骗效果。过去这类攻击手段仅限于技术高超的黑客，如今却变得触手可及。Deloitte的报告指出，已有25.9% 的企业高管曾遭遇过一次或多次深度伪造事件。
部分深度伪造钓鱼真实案例：
・阿联酋（2020 年）：一位银行经理误信了通过深度伪造语音技术伪装成公司董事的电话指令，被骗转账约3500 万美元。攻击者使用公开音频资料克隆了这位董事的声音，并结合伪造的“董事”和“律师”邮件进一步增强可信度。
・中国香港（2024 年 1 月）：一家跨国企业在一次深度伪造视频骗局中损失了2500 万美元。攻击者伪造该公司CFO 及其他员工的AI 合成视频，在一次视频会议中欺骗财务人员执行转账命令，并利用“多人视频”中的群体心理效应打消其疑虑。
・英国（2024 年 5 月）：尽管最终未得逞，但仍然引起了执法部门关注。攻击者通过WhatsApp 虚拟账户、AI 克隆语音及篡改的YouTube 视频，冒充某CEO 出现在Microsoft Teams 会议中，试图说服某机构负责人设立空壳公司并提供资金及个人信息。
这些案例表明，深度伪造已不再只是“未来威胁”，而是现实中活跃的攻击手段，正在重塑网络钓鱼和身份欺诈的风险格局。
Check Point：AI 对抗 AI，更加主动应对挑战
Check Point 公司中国区技术总监王跃霖在点评 AI 发展趋势时表示：“AI 本质上是生产力工具，既可被攻击者利用，也可被防御者应用，双方积极运用 AI 技术，导致攻击与防御的速度和规模迅速提升，给安全防御工作带来极大的挑战。仅靠传统依赖人力的防御策略已难以为继，必须以‘AI 对抗 AI’的理念构建更智能、更主动的防御体系，方可应对 GenAI 带来的复杂攻击。”在今年，Check Point 对其核心产品 Infinity 平台进行了战略升级，新增了多项 AI 创新功能，以加速零信任实施、增强威胁防御、降低复杂性，并简化安全运维，提升企业的安全管理能力。同时，Check Point 安全防护背后的大脑，ThreatCloud AI 威胁情报云平台也进行了重大更新。算法层面，Check Point 持续增加算法数量，从 2022 年的 40 多个增加到 55 个 AI 引擎。算力层面，ThreatCloud AI 系统运行在英伟达的底层平台上，具备强大的硬件支撑能力。数据层面，ThreatCloud AI 的情报数据来源覆盖全球近 190 个国家。王跃霖指出：“ThreatCloud AI 帮助用户能够精准识别和防御各类网络威胁，包括钓鱼网站、恶意软件、DNS 攻击等，从而实现预先识别恶意请求，并采取主动防御措施，而无需等到问题出现后，再被动应对。”
在 Check Point 看来，2025 年将是网络安全全面拥抱 AI 的一年。Check Point 以“AI 对抗 AI”的战略思维，通过 Infinity 平台的智能化升级、以及 ThreatCloud AI 的全球威胁感知能力，率先构建起以 AI 为神经中枢、以生态为防护边界的动态防御体系。通过这一业界领先的互联网安全体系，Check Point 有信心帮助用户在与不法分子的“AI 博弈”中，始终保持主动态势，更加从容的面对已知与未知的安全挑战。
本文链接：http://www.28at.com/showinfo-26-168020-0.htmlCheck Point：人工智能正反博弈，企业应更加主动应对挑战
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
