在大模型技术突飞猛进的今天，作为一个具有极高战略视野的机构，DARPA再一次将目光锁定在人工智能和网络安全领域，他们要如何颠覆AI自动化攻防技术创新？新一代信息技术革命浪潮下，我们又应如何加速创新技术孵化，缩小与美国网络安全产业界间的技术差距？本文我们将通过观察分析DARPA的一系列探索实践，分享永信至诚的思考。
在人工智能领域，DARPA也一直在不断探索新的理论和应用，包括在自然语言理解和识别研究（AI实时翻译、情报数据分析）、图像理解学习与感知（自动驾驶）、人工智能基础设施研究（大语言模型、人工智能鲁棒性）等方向，都进行了深入的研究和投资。DARPA的背后实际上有着一整套美国特色的“举国体制”在支持，他并非传统意义上的计划体制，而是一种国家层面的战略规划和资源配置，通过政府、市场和社会力量三者之间的协同，以政府引导和市场投资的方式，实现在关键技术领域的突破和领先。DARPA的成功之处在于，它不断地通过自身超越行业、领域的格局和战略视野，为学术界和产业界指明未来的模糊方向，去锚定高风险、高价值、高收益的项目，投入大量的资源和资金支持，来激发科研团队和社会力量的研究兴趣，一旦证实这些项目具备可行性，DARPA就会通过持续的投资，将这些创新技术成果转化成为美国科技领先的动力。这也是DARA这个机构的核心价值所在。在这整个过程中，DARPA并不追求利益回报，而是以国家利益为最高的目标，希望在不同的技术领域点燃火种，通过公平的竞争培育出能够“改变游戏规则”的创新的技术成果和科技人才。
2014年举办CGC网络超级挑战赛点燃自动化漏洞检测技术研究的火种2014年，DARPA 发起CGC网络超级挑战赛（Cyber Grand Challenge），试图推动建立一套自动攻防系统来对软件的漏洞进行检测和修复，解放网络安全专家的生产力。该赛事历时两年，2016年夏季，在全球最知名的DEF CON黑客大赛的舞台上完成了最终的决赛。这场比赛启发了全球网络安全科研院所和机构开启自动化测试技术研究，让fuzz模糊测试这项技术受到前所未有的关注，对于全球网络安全行业来说都具有十分重要的意义，堪称开启了AI安全的新时代。在长达两年的赛程中，DARPA在CGC竞赛的初赛、半决赛和决赛各个阶段，为参赛团队们提供了大量的扶持资金，有美国媒体报道，这场比赛最终耗资高达数千万美元。并且在赛事结束后，DARPA还直接主导了美国国防部与冠军团队ForAllSecure的合作，通过注资和采购，将该团队在比赛中打造的Mayhem智能化漏洞扫描系统引入国防部武器军事系统，推广至美国军方多个部门。
图/Mayhem智能化漏洞扫描系统
CGC网络超级挑战赛是一次非常成功的探索，它耗时2年斥资数千万美元，不计成本不计回报的长期投入，促进“自动化测试技术”从一个AI安全技术框架，转向技术路径可行性验证，最终落地应用到产业界。通过竞赛的形式选拔和培育全国最优秀的网络安全科研人才和技术产品，推广转化为整个国家的科技竞争力，整个赛事历程展现了DARPA在助推产业创新技术发展方面的巨大能量。值得关注的一点的是，DARPA在CGC的竞赛手册中提到，“参赛团队必须包含一名美国队员”，并且“团队负责人必须讲英语”，让我们看到DARPA的在技术封锁方面的企图，他们希望由美国政府花钱花时间投喂出来的技术成果，未来一定要掌握在美国手中。2023年发起AIxCC人工智能网络安全挑战赛推动自动化漏洞检测技术进入新一轮变革2022年底开始，以大语言模型为核心的AIGC生成式人工智能带来了一场划时代的产业变革。在网络安全行业中，大模型也被寄予厚望，期待能够解决过去困扰行业多年的安全防御人才短缺的现实问题。在这样的时代背景下，DARPA再次率先宣布，启动AIxCC人工智能网络安全挑战赛，联合Anthropic、谷歌和OpenAI等当前大模型行业巨头共同开启第二次围绕AI安全的探索。DARPA表示，发起AIxCC的目的是凝聚人工智能和网络安全领域最优秀、最聪明的人，保卫全体美国公民所依赖的软件。这一次，相比CGC竞赛而言，DARPA点燃的第二颗火种更具确定性。
图片来源：AIxCC竞赛官网-赛事介绍
DARPA在赛事背景中透露，AIxCC旨在启发技术专家跨行业合作，利用我们所拥有的所有工具，找出解决基础设施面临的一些最关键弱点的解决方案。比赛中鼓励参与者使用大语言模型、模糊测试和程序分析技术，来理解和解决开源软件中的漏洞，评估大语言模型在网络安全攻防中的潜力。可见，DARPA举办AIxCC的目的十分明确：其一是想要培育出一个能够工程化地对开源代码进行审计的自动化漏洞发现、验证和修复系统；其二是探究AI大语言模型在协助机器人程序开展代码审计方面的价值。最终通过将LLM大语言模型与自动化系统的结合，来实现更高效的漏洞发现、验证和修复的闭环。其中，“开源软件”“大语言模型”“攻防”是三个不容忽视的关键词。如果说上一次举办CGC竞赛时，DARPA是想开发一批能够实时发现、证明和修复软件缺陷的自动防御系统，催化自动化漏洞检测技术的进步，那么举办AIxCC竞赛，就是想以大语言模型技术和算力推动这项技术进入新一轮变革，以更加工程化的方式识别、验证和修复关键软件漏洞。
图：AIxCC竞赛官网-赛制说明
AIxCC官网公布的赛制说明中也介绍，在比赛中所有参赛团队都会获得一个挑战项目集，其中每个挑战项目都会基于现实世界中正在运行的开源项目引入漏洞，再以GitHub存储库的形式发放，参赛团队编写的CRS自动化推理系统需要对代码存储库中的代码进行程序分析（代码审计），通过编写新的代码来实现对漏洞的发现、验证和修复，最终提交一个修复补丁文件证明自己能够独立实现整个漏洞发现到修复的闭环。在整个比赛的过程中，Anthropic、谷歌和OpenAI作为联合主办方会给参赛团队提供大模型算力资源，帮助参赛的这些机器人程序能够更高效地完成代码审计工作。
在中国，RHG竞赛已开启实践先河AI自动化攻防技术发展挑战与机遇并存受到DARPA和CGC的启发和鼓舞，为了推进在网络安全行业内推进及其自动化和智能化的进程，2017年永信至诚春秋GAME发起了Robo Hacking Game（RHG）人工智能网络安全竞赛，迈出我国在人工智能网络安全领域关键性的一小步。
作为全球唯一持续运营的AI网络安全竞赛RHG长期受到美国国家安全智库跟踪研究作为全球唯一在持续运营的人工智能网络安全领域的专业竞赛及测试平台，RHG的影响力和专业水平还长期受到美国国家安全智库——CSET安全与新兴技术中心（Center for Security and Emerging Technology，简称CSET）的跟踪研究，成为了全球网络安全攻防技术发展的重要研究对象。
图/CSET发布针对RHG的跟踪研究报告
