一份来自英国皇家联合军种国防研究所(RUSI)的新报告指出，AI模型正帮助朝鲜和伊朗等政权在规避检测的同时实施网络攻击。

一份新研究报告警告称，在未来三到五年内，随着对手从AI辅助转型为AI赋能的规避制裁和扩散融资(PF)，政府和私营部门都需要迅速调整其识别与缓解方案。

这份名为《规避算法：AI赋能的大规模杀伤性武器扩散融资的崛起》的报告由英国国防与安全智库皇家联合军种国防研究所发布，报告将扩散融资(PF)定义为利用资金或金融服务来获取、开发或以其他方式交易大规模杀伤性武器(WMD)，报告指出：“朝鲜和伊朗目前正在开发和部署AI模型，以协助实施规避制裁的活动。”

核心发现包括：AI目前已经能够批量生产高质的虚假文件，并能实现报告所称的“管理庞大空壳公司网络的繁琐行政事务”自动化，报告还指出，AI驱动的系统能够“实时分析区块链模式，从而动态调整加密货币混币策略，有效规避检测工具”。

此外，报告提到：“例如生成式AI等工具能够制造出复杂的虚假身份证明文件，这已帮助朝鲜针对西方公司发起了网络钓鱼攻击。”

该报告的作者、RUSI金融与安全研究中心高级客座研究员Dr. Aaron Arnold在邮件中表示，写这份报告的起因是过去一年里，朝鲜利用AI促进和增强其网络攻击的活动有所增加，其表现形式为旨在为该国弹道导弹和核武器项目筹集资金的网络钓鱼计划。

对于需要保护自身企业免受规避制裁活动侵害的企业IT主管，他建议道：“这在很大程度上意味着要适应这样一个技术环境：传统以人为核心的安全防线正在被自动化技术所绕过。”

Arnold表示，对于IT主管而言，“这可能需要引入防御性AI、采用基于行为的分析、在大量使用API或MCP(多芯片封装/多方案合规平台)时设置‘断路器’、更新员工培训，并强化身份验证，尤其是针对任何远程招聘环节。”

区分AI辅助和AI赋能的活动是“核心”

Greyhound Research首席分析师Sanchit Vir Gogia表示，RUSI的这份报告至关重要，“因为它指明了正确的结构性转变，AI并不是凭空创造了规避制裁的手段，而是压缩并放大了现有的有效方法。”

他指出，虚假文件、合成身份、空壳公司、隐瞒实际受益所有权、加密货币洗钱等规避制裁的手段无一新鲜。“改变的是现在组合这些方法的速度、质量、数量以及协调性。”他说道。

根据Gogia的观点：“区分AI辅助和AI赋能的活动是核心所在，AI辅助的规避是将AI用于离散的任务：写一封更好的邮件、制作一份更干净的文件、生成一个更逼真的虚假个人资料、翻译一份说辞、总结法规或准备一份看似合理的求职申请，而AI赋能的规避则更为严重。”

一种“结构性不对称”

他表示，这种策略“开始协调系统本身，它将身份、文件、所有权结构、支付路径、云端访问、加密货币钱包、API调用和时间线串联在一起。两者的区别不在于AI是否帮人伪造了一份文件，而在于AI是否开始编排整个骗局。”

他指出，这正是报告的发现应该让企业领导者感到担忧的原因：“许多机构仍然假定坏人大多是人类、大多是线性的、大多是缓慢的，这种假设正在失效，AI让对手能够跨越更多渠道、使用更多语言、凭借更完善的文件和更强的耐心，以更少的错误进行更多次尝试，这超出了大多数企业审查流程所能承受的极限，这并不是天才罪犯发现魔法的故事，而是流水线式的通顺谎言击败普通控制手段的故事。”

他指出，目前的证据在身份欺诈、文件欺诈、合成人设、远程员工欺诈、网络钓鱼、社交攻击、加密货币混淆以及工作流滥用等策略上最为明显。“完全自主的规避网络已隐约浮现，”他说道，“它们很严重，但目前还不是日常的常态。”

Gogia表示，这种区分很重要：“如果企业执迷于电影般科幻的自主智能体场景，却让远程招聘、供应商入驻、支付审批和文件审查漏洞百出，他们将以最平淡乏味的方式落败。”

他表示，该报告对“不对称性”的把握也很准确。“攻击方可以跨生态系统进行学习，”他说道，“他们可以爬取公开信息、复用泄露的记录、研究执法模式、测试入驻表格、检查公共采购数据、关注法院文件、探测合规阈值，并[利用这些信息]优化自己的行为。”

相比之下，防守方则受到隐私规则、碎片化数据、可解释性要求、管辖权边界、保守的运营模式和孤立的技术资产的限制。“攻击性AI进行广泛学习，”他说道，“防御性AI往往只能从碎片中学习，这就是结构性不对称。”

他解释说，监管环境也放大了这一问题，因为监管机构“仍然说着不同的方言。例如欧盟AI法案推动各机构对高风险AI承担更强的义务，而NIST风格的框架则侧重于风险管理、透明度和治理。”

信任架构问题

他指出，金融行动特别工作组(FATF)的预期推动了国家风险评估和反扩散控制，而银行监管机构则聚焦于模型风险、问责制和业务韧性。“这些方向没有一个是无关紧要的，问题在于，罪犯并不会围绕监管工作流来组织自己，他们是围绕结果来组织自己的。”

Gogia表示，这意味着“企业不能等待一套干净的全球规则手册，它不会及时到来。CIO、CISO、合规官和董事会现在就需要一个切实可行的治理模型，他们需要保护隐私的分析、受控的数据环境、审计追踪、法律保障以及明确的模型风险问责制。”

他表示，企业IT主管应该将这种情况视为一个信任架构问题，而不仅仅是一个狭隘的制裁筛查问题，他指出：“让人不安的事实是，AI不仅是在帮坏人写更好的钓鱼邮件或伪造更整洁的文件，它还在帮他们在整个企业工作流链条中制造合法性。”

可能的结果是一场“AI军备竞赛”

报告作者Arnold还指出，有迹象表明，网络罪犯已经发现了新的AI技术和能力，而合法企业同样可以将其用于合法的应用中。

他表示：“历史上罪犯针对棘手问题开发创新解决方案，随后被执法部门采用的例子屡见不鲜，我们的许多反金融犯罪政策，实际上都是对坏人利用系统或以新颖方式使用技术实施犯罪的回应。在这种情况下，我认为执法当局与坏人之间的一场‘AI军备竞赛’是最有可能的结果。”

Gogia补充道：“坏人并不是在教企业如何发明AI，他们是在教企业信任从哪里泄漏，这才是值得认真对待的教训。”

信息来源：51CTO https://www.51cto.com/article/848320.html