AI时代安全变局
AI技术发展带来了新型安全风险,从模型层、推理层、应用层到合规治理,AI原生安全风险全面暴露。模型层风险包括数据与模型投毒、供应链漏洞、环境不可信等;推理层风险包括提示词注入、越狱攻击、信息泄露、幻觉生成等;应用层风险包括Agent过度授权、输出处理不当、敏感数据泄漏等;合规治理风险包括AI生成内容合规、训练数据合规、可解释性缺失、跨境数据流动等。
核心挑战:AI带来新的安全风险,同时放大了传统网络安全风险。AI重塑网络安全攻防格局,AI既是防守利器,也是攻击者的新武器,攻防天平向攻击侧大幅度倾斜,攻防节奏从「人vs人」加速走向「AI vs AI」。AI安全已不再是单一维量的技术问题,而是涵盖「以AI铸盾」与「为AI护航」的双向命题。
以AI铸盾
让安全从"人驱动"进化为"AI驱动",分为上层应用产品层和下层核心AI能力层。
上层应用产品层:
- 安全运营:AI增强WAF/云墙/主机安全智能攻击检测和拦截,AI渗透测试,Agentic SOC自主研判编排响应,自然语言交互运营,AI代码审计自动化弱点发现PoC生成与验证。
- 安全测试:AI增强WAF/云墙/主机安全智能攻击检测和拦截。
- 安全开发:AI代码审计自动化弱点发现PoC生成与验证。
下层核心AI能力层:
- 基础大模型:通用理解与生成。
- 专项检测模型:专项感知恶意流量、异常行为、恶意文件、敏感数据、钓鱼/社工。
- 分析Agent:漏洞检测Agent、威胁狩猎Agent、告警研判Agent、攻击链分析Agent、修复建议Agent。
设计理念:产品按场景聚合,能力按形态解耦—专项检测模型/AI Agent/大模型三层能力复用,支撑产品快速迭代。新产品发布:CodeBuddy Security提供企业级AI代码安全审计解决方案,AI Agent + SAST双引擎驱动。
为AI护航
守护AI全生命周期的安全可信,分为上层应用产品层和下层核心AI能力层。
上层应用产品层:
- AI态势感知。
- AI内容安全。
- AI Agent安全:Agent身份/安全中心/网关/iOA云端AI Agent全生命周期安全,终端AI Agent全生命周期安全。
- AI安全护栏:LLM输入输出实时检测与拦截。
- AI-SPM:AI资产清点与风险暴露面发现。
下层核心AI能力层:
- 底座安全:数据分类分级,AI资产发现模型,指纹识别Agent ID,权限策略引擎,行为基线建模。
- 检测模型:提示词注入检测、越狱检测、内容合规检测、数据泄露检测、Skill风险检测。
- 识别与管控:硬件级信任根,机密推理模型,加密远程可信证明,审计溯源。
设计理念:产品按保护场景聚合,能力按防护链路解耦—基础设施/大模型/ Agent三层纵深防御,覆盖AI全生命周期。新产品发布:机密计算大模型(AICC)提供安全性可证明的、数据全程可用不可见的云端可信推理环境。
四大核心安全能力
重构云端推理的信任边界:
- 环境可验证远程证明服务:提供密码学方式验证硬件、资源、算力、组件一致性和不可篡改性。
- 数据全流程加密:端到端加密,确保数据在传输、计算、存储中始终密态,任何人无法访问用户数据。
- 资源强隔离:在安全可信的大模型基础设施上,加速AI规模化落地。
- 放心用:任务结束即清零推理任务结束自动销毁会话密钥,无残留数据。
核心能力优势:
- 放心用:敏感数据放心上云,数据安全性可证明。
- 用得起:无需自建,按需弹性,成本可控,性能损耗<5%。
- 好用:业务免改造,部署调用,云端全托管,性能损耗分钟级部署。