行业研究公司研究宏观策略财报招股书会议纪要海南封关低空经济 DeepSeek AIGC 大模型

AI应用于进攻性安全

信息技术2025-05-13CSA GCR李***

AI智能总结

执行摘要

人工智能（AI）技术，特别是大语言模型（LLM）和由LLM驱动的AI智能体（AIAgent）的出现，引发了进攻性安全（OffensiveSecurity）领域深刻变革，包括漏洞评估、渗透测试和红队演练。这一转变将AI从一个狭窄的应用场景重新定义为一种多功能且强大的通用技术。本文探讨了基于LLM的AI变革潜力，通过研究其与进攻性安全的集成，以解决当前挑战，并展示了AI在五个安全阶段——侦察、扫描、漏洞分析、利用以及报告中的能力。

关键发现

进攻性安全的挑战：安全团队面临专业人才短缺、环境日益复杂和动态变化，以及平衡自动化测试与手动测试的需求。
AI的能力：AI，主要通过LLM和AI智能体，提供了在进攻性安全方面的卓越能力，包括数据分析、代码、文本生成、规划现实攻击场景、推理和工具编排。这些能力可以辅助自动化侦察、优化扫描流程、评估漏洞、生成综合报告，甚至自主利用漏洞。
AI的益处：在进攻性安全中利用AI可以提高可扩展性、效率、速度，发现更复杂的漏洞，并最终提升整体安全态势。
没有银弹：尽管前景可期，但目前还没有任何一种AI解决方案能够彻底改变进攻性安全。需要对AI进行持续实验，以找到并实施有效的解决方案。这就需要创建一个鼓励学习和发展的环境，团队成员可以使用AI工具和技术来提升他们的技能。

建议

AI集成：可将AI融入自动化任务中以增强人类能力。利用AI进行数据分析、工具编排、生成可操作的建议，并在适用的情况下构建自主系统。在进攻性安全中采用AI技术可以在不断发展的威胁环境中保持领先优势。
人类监督：由LLM驱动的技术是不可预测的，可能会产生幻觉并导致事实性错误。持续使用人类监督来验证AI的方式，提高输出质量，并确保技术优势。
治理、风险和合规（GRC）：实施健全的GRC框架和控制措施，确保AI的安全状态、安全行为和符合道德规范。

引言

进攻性安全涉及主动模拟攻击者的行为，使用类似于对手的战术和技术来识别系统漏洞。通过了解潜在的弱点和威胁，组织可以实施和加强可靠的安全控制，从而降低被恶意行为者利用的风险。进攻性安全测试人员在日益复杂的环境中面临许多挑战，这些挑战可能会阻碍他们评估的效率和有效性。这些挑战因缺乏熟练的安全测试人员和网络安全专家而进一步加剧。

人工智能（AI）

AI包含一系列旨在模拟人类智能的技术，包括自然语言处理、机器学习和机器人技术。尽管AI覆盖了广泛的技术范围，我们的焦点集中在由LLM驱动的技术。

大语言模型（LLM）

LLM是具有数十亿参数的复杂深度神经网络，能够处理和生成语言。最初，这些模型被开发用于预测句子中的后续单词，现在它们能够处理文本、语音、音频和视频应用中的复杂任务。

AI智能体

AI智能体是设计用于感知周围环境并采取行动以实现设定目标的自主或半自主系统，从而塑造与环境的未来交互。这些智能体可以使用LLM的能力来规划任务、触发任务执行、做出决策，并与世界有意义地互动。

AI驱动的进攻性安全

AI技术正在开辟进攻性安全领域的新天地，借助AI驱动的工具，我们可以模拟高级网络攻击，并在恶意行为者利用之前识别网络、系统和软件的漏洞。这些工具可以帮助安全团队更有效地扩展其工作，提升工作效率。

AI增强和自主性

AI智能体可以自主或半自主地通过规划、推理、工具执行和分析等周期性循环来执行进攻性安全任务，并引入不同程度的人为输入。然而，授予AI智能体的自主权程度必须权衡自动化和增强技术带来的收益和意外后果引发的风险，尤其是在关键应用中。确保有人为监督——或保持“人在回路”——是一种战略优势。

侦察

侦察阶段的目标是通过公开来源和被动侦察技术中收集关于目标的详细信息。这包括识别目标的网络范围、域名、员工详细信息、使用的技术以及在安全公告中披露的潜在漏洞。

扫描

扫描阶段的目标是主动探测系统和网络，为目标及其网络结构绘制详细的地图（包括潜在的漏洞），具体包括使用各种工具检测开放端口、正在运行的服务、使用的技术以及潜在的弱点。

漏洞分析

漏洞分析阶段的目标是在初始扫描的基础上，对目标系统和服务进行深入分析，以发现安全缺陷。

利用

利用阶段的目标是测试在真实场景受控条件下，如何有效利用已识别的安全漏洞。

报告

报告阶段的目标是编写一份详尽介绍整个参与过程的综合报告。

威胁行为者对AI的使用

威胁行为者正在积极利用AI来增强其行动。AI使他们能够快速处理大量信息，准确识别潜在目标。威胁行为者利用AI辅助开发和完善恶意脚本和恶意软件，降低复杂网络攻击的技术门槛。威胁行为者利用AI来理解和识别软件和系统中公开报告的漏洞。AI被用来攻克双因子身份验证或CAPTCHA等安全机制。

AI驱动进攻性安全–不久的将来

AI能够通过提升扩展性、效率、速度，以及发现更多复杂漏洞，显著增强进攻性安全的能力。虽然这些AI应用的自主性程度各不相同，但最新研究表明，AI正在向更高自主性稳步迈进。

挑战与限制-风险与应对措施

在进攻性安全领域，AI的应用带来了独特的挑战和限制。管理大数据集并确保准确检测漏洞是一个重要挑战，但可以通过技术进步和最佳实践来解决。然而，一些固有局限性，如AI模型中的token窗口限制，需要谨慎规划和缓解策略。

治理、风险和合规（GRC）

利用AI进行攻击性安全需要采取治理、风险和合规（GRC）的综合方法。这确保了AI工具的使用既有效又符合伦理，遵循诸如美国国家标准与技术研究院AI风险管理框架（NISTAIRMF）、AI组织责任-核心安全责任以及OWASPLLMAI网络安全与治理检查表等框架。

结论

AI正在快速发展，带来了更强的智能体能力和自动化水平。这些发展为全球的进攻性安全团队提供了新的机遇，也带来了挑战。恶意行为者已在法律和道德框架之外利用这些技术进步，凸显出防御者主动创新的迫切需求。AI技术，特别是LLM和AI智能体，通过自动化和扩展任务，显著增强了进攻性安全能力。这种改进提高了效率，使得评估更加复杂和广泛，并使安全团队能够专注于流程改进和战略工作。此外，AI还促进了安全测试的普及，降低了入门门槛，缓解了专业技能人才短缺的问题。尽管有这些好处，但目前还没有单一的AI解决方案能够彻底改变进攻性安全实践。因此，需要采取多方面的方法，不断试验AI以找到并实施有效的解决方案。这就要求创造一个鼓励学习和发展的环境，使团队成员能够提升使用AI工具和技术的技能。为了有效利用AI，组织必须分享最佳实践，并开发针对特定安全需求的定制工具，最好通过数据科学、网络安全、法律等部门之间的跨学科合作来实现。这确保了AI集成和风险管理的整体方法。随着AI系统融入工作流程，它们引入了新的技术和组织挑战，必须谨慎管理。需要保持警惕，以防止AI驱动的工具被滥用或出现不可预测的行为。推广负责任使用AI的文化对于确保团队了解将AI集成到进攻性安全中的风险和影响至关重要。这包括建立一个稳健的治理、风险和合规（GRC）框架，以有效管理这些风险。总之，进攻性安全必须随着AI能力的发展而演进。通过采用AI、对团队进行其潜力和风险的培训，以及培养持续改进的文化，组织可以显著增强其防御能力，并在网络安全领域获得竞争优势。

人工智能技术与风险工作组的永久官方地址是 https://cloudsecurityalliance.org/research/workgroups/ai-technology-and-risk ©2025云安全联盟大中华区——保留所有权利。您可以下载、存储、在您的计算机上显示、查看、打印以及链接到云安全联盟网站https:///cloudsecurityalliance.org，但须遵守以下条件：(a)草案仅供您个人、信息性和非商业用途使用；(b)不得以任何形式修改或更改草案；(c)不得重新分发草案；(d)不得移除商标、版权或其他声明。在遵循中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。《AI应用于进攻性安全》由CSA工作组专家编写， CSA大中华区组织AI安全工审校组成员：张淼卞超轶感谢以下单位的支持与贡献：北京启明星辰信息安全技术有限公司天融信科技集团股份有限公司高健凯卜宋博致谢《AI应用于进攻性安全》由CSA工作组专家编写，CSA大中华区组织AI安全工作组进行翻译并审校。中文版翻译专家组翻译组成员：崔崟潘季明侯芳卜宋博党超辉审校组成员：张淼卞超轶高健凯卜宋博英文版本编写专家倡议负责人： AdamLundqvistKirtiChopra 主要作者： AdamLundqvistKirtiChopraMichaelRozaSvenVetsch 贡献者： CandyAlexanderDavidMcCroryElierCruzGovindarajPalanisamyJohnJiangKeithPasleyKenWallingLarsRuddigkeitMariaSchwenger 审校组： AdamLomasAkhilMittalAkshatVashishthaAlexReboAshishVashishthaKenHuangNancyKramerNeilKesslerPatrickSchmidRockingWolfRanch SvenOlenskyVaibhavMalikVenkateshGopalVivekShitole 联席组长： ChrisKirschkeMarkYanalitis CSA全球工作人员： JoshBukerStephenSmith 目录 ©2025云安全联盟大中华区版权所有7致谢....................................................................................................................................4执行摘要............................................................................................................................9关键发现.....................................................................................................................9建议...........................................................................................................................10引言..................................................................................................................................10进攻性安全...............................................................................................................10进攻性安全的当前挑战.....................................................................................13人工智能（AI）......................................................................................................15大语言模型（LLM）..........................................................................................15AI智能体...............................................................................................................16AI驱动的进攻性安全..............................................................................................18AI增强和自主性..................................................................................................19侦察.......................................................................................................................22扫描.......................................................................................................................23漏洞分析...............................................................................................................25利用.......................................................................................................................26报告.......................................................................................................................29 威胁行为者对AI的使用..........................................................................................30 AI驱动进攻性安全–不久的将来.......................................................................32 挑战与限制-风险与应对措施...............................................................................35 治理、风险和合规（GRC）.................................................................................40 可信赖的AI实施..................................................................................................40 第三方风险管理..................................................................................................41 GRC考量因素......................................................................................................41 GRC总结..............................................................................................................43 结论..................................................................................................................................43 参考文献.........................................................................................................................44 执行摘要人工智能（AI）技术，特别是大语言模型（LLM）和由LLM驱动的AI智能体（AIAgent）的出现，引发了进攻性安全（OffensiveSecurity）领域深刻变革，包括漏洞评估、渗透测试和红队演练。这一转变将AI从一个狭窄的应用场景重新定义为一种多功能且强大的通用技术。本文探讨了基于LLM的AI变革潜力，通过研究其与进攻性安全的集成，以解决当前挑战，并展示了AI在五个安全阶段——侦察、扫描、漏洞分析、利用以及报告中的能力。关键发现进攻性安全的挑战：安全团队面临专业人才短缺、环境日益复杂和动态变化，以及平衡自动化测试与手动测试的需求。 AI的能力：AI，主要通过LLM和AI智能体，提供了在进攻性安全方面的卓越能力，包括数据分析、代码、文本生成、规划现实攻击场景、推理和工具编排。这些能力可以辅助自动化侦察、优化扫描流程、评估漏洞、生成综合报告，甚至自主利用漏洞。 AI的益处：在进攻性安全中利用AI可以提高可扩展性、效率、速度，发现更复杂的漏洞，并最终提升整体安全态势。没有银弹：尽管前景可期，但目前还没有任何一种AI解决方案能够彻底改变进攻性安全。需要对AI进行持续实验，以找到并实施有效的解决方案。这就需要创建一个鼓励学习和发展的环境，团队成员可以使用AI工具和技术来提升他们的技能。建议 AI集成：可将AI融入自动化任务中以增强人类能力。利用AI进行数据分析、工具编排、生成可操作的建议，并在适用的情况下构建自主系统。在进攻性安全中采用AI技术可以在不断发展的威胁环境中保持领先优势。人类监督：由LLM驱动的技术是不可预测的，可能会产生幻觉并导致事实性错误。持续使用人类监督来验证AI的方式，提高输出质量，并确保技术优势。治理、风险和合规（GRC）：实施健全的GRC框架和控制措施，确保AI的安全状态、安全行为和符合道德规范。本文使执行领导层，包括首席信息安全官（CISO）、网络安全战略师和高管，能够通过有效阐述进攻性安全投

点击免费查看完整报告