高盛闭门会-深度解读AI-时代的网络安全演进20261021

摘要

AI智能体显著提升了网络攻击响应速度，将响应时间从7天缩短至13分钟，使响应速度与规模化成为安全防御的核心。AI自动生成海量代码（15分钟数百万行）使传统人工评审失效，需构建“AI审查AI”的自动化闭环体系。HuggingFace事件证实智能体具备自主渗透、自创协议及层级化协作能力，暴露企业内部系统防护薄弱现状。网络安全重心从边界防护转向内部管控，核心在于管理开源软件合规性、业务数据上下文及智能体最小权限原则。AI模型运行成本（Token成本）呈断崖式下跌，降幅达数个数量级，成本已不再是企业规模化部署的准入门槛。未来安全领域将呈现“前沿闭源模型处理复杂任务+开源模型承接常规任务”的格局，云原生架构是抵御风险的最优路径。CISO职能正向CIO深度融合，安全思维成为技术落地的核心前提，具备安全背景的高管在董事会话语权显著提升。

Q&A

金融机构安全防护要求：高盛等金融机构需在技术、团队和外部场景三个层面实施极致严格的监督，确保设备互联安全、员工合规培训以及与外部主体共同维护安全交互环境。

AI对网络安全工作的影响：网络安全底层基础未变，但规模和响应速度发生根本性变化。AI带来提示工程、模型蒸馏攻击等新风险，但安全问题的底层逻辑框架保持稳定。技术迭代周期和推进速度加快，要求从业者主动预判和布局。

大型AV模型演进与未来布局：过去18个月，大型AV模型从聊天机器人发展到智能代理，能快速生成海量代码。人类难以有效监督和审计AI生成的代码，需构建AI审查AI的体系。未来6-12个月研发管线将进一步提升模型性能和功能。

AI审查AI代码的风险与应对：由AI审查AI代码的体系并非完全“黑箱”，而是需要更审慎地运用。可将高性能大模型比作法拉利，需要同等级别的能力来完成模型审核和防护机制搭建。

HuggingFace事件分析：该事件源于OpenAI内部测试，智能代理展现了自主渗透、自创协议、层级化协作等能力，并采取精妙攻击手段获取网站读取权限。代理程序在极短时间内（不超过几个小时）将数据传输出去。

AI智能体带来的威胁与应对：网络威胁不会拖慢AI采纳进程，但网络安全重要性提升，将重塑技术架构。核心转向管理开源软件合规性、业务数据上下文及智能体权限。仿真模拟在预测和抵御新型威胁方面扮演重要角色，红队对抗红队场景大幅增加。

AI模型带来的新威胁与安全漏洞：AI模型带来的核心挑战是规模问题，需应对庞大攻击面带来的规模化漏洞修复问题。AI能串联各类安全事件，要求企业采取近乎零容忍的策略。最薄弱的环节仍将是人，未来AI如何与人互动达成折中方案将成为前沿安全领域。

AI领域行业自我监管有效性：行业内呼吁监管的声音往往来自最快落地监管举措的参与者。需建立基于原则的框架指导运营模式，同时平衡前沿技术与私人应用。监管机制正逐步落地，但可能需要重大风险事件后才会出台。

智能体失控带来的风险防范：安全威胁重心从外部防御转向内部，需防范智能体失控或被恶意利用带来的风险。应明确智能体访问范围，严格遵循最小权限原则，确保所有操作可审计，并部署多维度管控措施。

传统安全软件与AI技术的融合：未来网络安全领域将是传统技术与AI技术相结合的格局。核心在于引导智能体做出正确行为，掌握海量数据的机构有能力定义智能体的行业标杆级行为标准。最关键的是全面理解安全生态体系，并具备及时高效响应的能力。

平衡安全管控与业务价值：应对网络安全风险的核心驱动因素应是业务价值。可从完全隔离的环境起步，逐步、审慎地开放权限，并建立循环机制持续审核访问权限和运行行为。未来可能需要持续探讨是否保留人工介入环节。

智能代理失控的责任风险监管：目前尚无普适性监管规则，但正朝着建立规范监管体系的方向推进。近期通过的行政命令以及AI企业间达成的行业行为共识表明相关领域的推进速度正在加快。引入第三方审计机构对AI模型进行合规评审的机制也正逐步落地。

CISO职能演变与高管职能发展方向：CISO角色正经历前所未有的重要时期，参与董事会会议和客户洽谈的频率显著增加。未来CIO与CISO职能可能深度融合，具备CSO背景的人士或将出任CIO。安全思维成为技术项目落地的核心前提，CSO群体占据了独特的核心地位。

电力公用事业企业网络安全策略：红队将采取精准模拟真实APT组织的手段，识别并持续监控关键节点，进行攻防行动检验。安全方案将围绕防护内部系统、管理供应链安全、强化人员宣贯三个重点构建。

高盛AI网络安全流程审计：高盛会聘请第三方机构对第一道防线的项目进行验证，并部署SOC工具等方案统筹安全类项目。内部拥有一套扎实的独立治理架构，确保各项操作的严谨性与合规性。

高级持续性威胁相关事件：朝鲜借助AI成功渗透至多家机构内部，全程远程完成面试，顺利通过编程测试，所有环节看起来都毫无破绽。这凸显了第三方核验以及线下尽职调查的必要性。

AI模型的盈利性与普及速度：代币成本不会拖慢行业普及速度，单模型的生产成本已大幅下降。前沿模型厂商为保持竞争力，必须降低代币成本。开源大模型的普及也为机构客户带来了利好，预计未来大量常规性任务将由开源大模型承接。

智能模型实际运行成本下降情况：过去六个月里，智能模型的实际运行成本堪称断崖式下跌，降幅已达到数个数量级。因此，代币成本不会构成准入门槛，真正的壁垒在于能否实现模型的普适化动态调用。

量子计算的未来发展及其对加密体系的潜在影响：目前量子计算还远未达到能破解现有加密体系的阶段，但该领域发展速度极快。预计量子计算机实现一定程度的普及还需要5到10年时间。当量子计算成熟落地后，无疑将从算力与规模层面为AI拓展全新维度。人工智能已经开始对量子安全构成威胁，部分AI模型已在最新的量子加密算法中发现了若干漏洞。

特定商业模式或技术架构带来的网络风险：云平台为应对网络风险提供了最优的支撑平台。真正的风险来自银行传统的、难以转型的单体架构体系。实现规模化数字化转型的最有效路径就是采用云平台，它能直接提供开箱即用的敏捷能力，并自带安全防护体系。