阿里云优惠券 先领券再下单
在网络安全领域，人工智能（AI）一直被视为防御的一大利器，其带来的速度、准确性与自动化能力正在彻底改变企业的防护方式。但是，网络安全从业人员必须要关注技术发展的“阴暗面”：网络犯罪分子也在迅速拥抱 AI，将大型语言模型（LLMs）与高级代理型 AI 技术应用于攻击行为，使得网络攻击更具隐蔽性与破坏性。
以 WormGPT 和近期出现的 Xanthorox AI 为例，这些并非只是理论层面的威胁，而是真实存在的恶意平台。WormGPT 基于 GPT-J 模型构建，被公开宣传为“黑客专用”版本的 LLM，具备多项为恶意用途量身定制的功能，据称还曾以恶意软件相关数据进行训练。尽管其开发者已停止运营，但“潘多拉的魔盒”已然被打开。如今，我们正目睹一波“进攻型 AI 工具”的崛起，包括 BurpGPT、PentestGPT、FraudGPT 与 PassGPT 等，还有开发者正计划推出更复杂的模型，如 “Evil-GPT-Web3”。这些趋势意味着网络安全进入了一个新的竞争阶段：AI，不再只是防御者的专属武器。
Xanthorox AI 于 2025 年第一季度崭露头角，其能力代表着网络攻击技术的一次重大飞跃。与此前的恶意 LLM 不同，Xanthorox 并非在现有模型基础上改造而成，而是从零构建的自主模块化系统，完全离线运行，以提升匿名性与抗干扰能力。该系统由五个专用 AI 模块组成——Xanthorox Coder、V4 模型、Xanthorox Vision、Xanthorox Reasoner Advanced 以及第五协调模块（Fifth Coordination Module）——协同完成恶意软件开发、情报侦察、社交工程与多点协调攻击等全过程，完全无需外部监管。这不再是传统意义上的大型语言模型（LLM），而是一种具备“自主代理”能力（agentic AI）的攻击系统，标志着网络犯罪者工具包的逻辑性进化和令人担忧的转变。
AI 驱动的钓鱼攻击迅速瓦解品牌信任
AI 技术的发展对品牌保护带来的冲击，在钓鱼攻击领域尤为显著。威胁行为者已经开始利用“提示注入”（prompt injection）技术，操控合法的大型语言模型（LLM）生成极具欺骗性的钓鱼内容。这意味着，钓鱼攻击的生成速度更快、频率更高，且具备令人震惊的个性化程度。
数据显示，2024 年全球 67.4% 的钓鱼事件中已出现 AI 技术的身影，金融行业则是最主要的攻击目标之一。这不仅仅是数量的增长，更是手法的升级。借助 AI，攻击者能够轻松打造高度定制化、极具说服力的攻击手段，包括精准钓鱼（spear-phishing）、深度伪造（deepfakes）以及先进的社交工程技巧等。
邮件攻击变得更快速、更精准
AI 对钓鱼邮件的影响已立竿见影。过去，拼写错误和语法问题常被视为识别诈骗邮件的“警示”；如今，这种方法已不再有效。借助生成式 AI，如今的钓鱼邮件在语言风格、语法结构上与真实企业沟通几乎无异。大型语言模型（LLM）不仅提升了邮件撰写的速度与质量，也大幅提高了内容的个性化程度，使攻击得以快速部署和规模化扩散。
早在 2021 年的研究就显示，即便是早期 AI 所生成的鱼叉式钓鱼邮件，其点击率也高达 60%。而 2024 年的最新研究则发现，完全由 AI 生成的钓鱼邮件在受试者中达成了 54% 的点击率，较传统随机钓鱼邮件高出约 350%。
2024 年 2 月：一家欧洲零售企业的匈牙利分公司在一次商业邮件诈骗（BEC）攻击中损失了 1550 万欧元。攻击者利用生成式 AI 精准模仿公司内部邮件的语气、风格和排版，向财务人员发送伪装为紧急转账请求的邮件。这些邮件语言无误、上下文准确，成功绕过了传统的检测机制，充分展示了 AI 增强型 BEC 攻击的破坏力。
深度伪造“未来已来”
除了高度逼真的钓鱼邮件，深度伪造（Deepfake）技术正在为钓鱼攻击开辟全新模式。通过深度学习合成的音频、图像或视频，攻击者如今可以轻松伪造语音留言、模拟视频通话，甚至“复刻”特定人物的外貌与声音，从而实现前所未有的欺骗效果。过去这类攻击手段仅限于技术高超的黑客，如今却变得触手可及。Deloitte 的报告指出，已有 25.9% 的企业高管曾遭遇过一次或多次深度伪造事件。
部分深度伪造钓鱼真实案例：
· 阿联酋（2020 年）：一位银行经理误信了通过深度伪造语音技术伪装成公司董事的电话指令，被骗转账约 3500 万美元。攻击者使用公开音频资料克隆了这位董事的声音，并结合伪造的“董事”和“律师”邮件进一步增强可信度。
· 中国香港（2024 年 1 月）：一家跨国企业在一次深度伪造视频骗局中损失了 2500 万美元。攻击者伪造该公司 CFO 及其他员工的 AI 合成视频，在一次视频会议中欺骗财务人员执行转账命令，并利用“多人视频”中的群体心理效应打消其疑虑。
· 英国（2024 年 5 月）：尽管最终未得逞，但仍然引起了执法部门关注。攻击者通过 WhatsApp虚拟账户、AI 克隆语音及篡改的 YouTube 视频，冒充某 CEO 出现在 Microsoft Teams 会议中，试图说服某机构负责人设立空壳公司并提供资金及个人信息。
这些案例表明，深度伪造已不再只是“未来威胁”，而是现实中活跃的攻击手段，正在重塑网络钓鱼和身份欺诈的风险格局。
Check Point：AI对抗AI，更加主动应对挑战
Check Point公司中国区技术总监王跃霖在点评AI发展趋势时表示：“AI本质上是生产力工具，既可被攻击者利用，也可被防御者应用，双方积极运用AI技术，导致攻击与防御的速度和规模迅速提升，给安全防御工作带来极大的挑战。仅靠传统依赖人力的防御策略已难以为继，必须以‘AI对抗AI’的理念构建更智能、更主动的防御体系，方可应对GenAI带来的复杂攻击。”在今年，Check Point对其核心产品Infinity平台进行了战略升级，新增了多项AI创新功能，以加速零信任实施、增强威胁防御、降低复杂性，并简化安全运维，提升企业的安全管理能力。同时，Check Point安全防护背后的大脑，ThreatCloud AI威胁情报云平台也进行了重大更新。算法层面，Check Point持续增加算法数量，从2022年的40多个增加到55个AI引擎。算力层面，ThreatCloud AI系统运行在英伟达的底层平台上，具备强大的硬件支撑能力。数据层面，ThreatCloud AI的情报数据来源覆盖全球近190个国家。王跃霖指出：“ThreatCloud AI帮助用户能够精准识别和防御各类网络威胁，包括钓鱼网站、恶意软件、DNS攻击等，从而实现预先识别恶意请求，并采取主动防御措施，而无需等到问题出现后，再被动应对。”
在Check Point看来，2025年将是网络安全全面拥抱AI的一年。Check Point以“AI对抗AI”的战略思维，通过Infinity平台的智能化升级、以及ThreatCloud AI的全球威胁感知能力，率先构建起以AI为神经中枢、以生态为防护边界的动态防御体系。通过这一业界领先的互联网安全体系，Check Point有信心帮助用户在与不法分子的“AI博弈”中，始终保持主动态势，更加从容的面对已知与未知的安全挑战。
申请创业报道，分享创业好点子。点击此处，共同探讨创业新机遇！
本文链接：http://www.28at.com/showinfo-20-168316-0.htmlCheck Point：人工智能正反博弈，企业应更加主动应对挑战
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
