这份研报主要分析了AI安全产业的动态与亚信安全的布局。报告指出,随着AI应用从聊天向工作场景转变,数据泄露和误操作风险增加,叠加韩国、谷歌等重大安全事件,以及国内外监管趋严,AI安全产业关注度提升。亚信安全在身份认证安全领域进行布局,强调应用深度变化对安全范畴的影响。报告还探讨了AI安全需求与商业模式变革、北美AI安全合作模式、国内外AI安全落地差异、国内AI安全需求与亚信布局、AI安全与智能体管理、AI时代的身份安全与生态安全管理、智能体身份与AI时代的治理必要性、AI安全挑战与身份认证机遇等多个方面。
AI安全行业的发展趋势主要体现在以下几个方面:首先,AI应用从聊天向工作场景转变,数据泄露和误操作风险增加,推动AI安全需求提升;其次,国内外监管趋严,国内出台团标、国标、强制国标,企业部署新技术需加强安全约束;第三,AI安全需求与商业模式变革,从套装采购转向AI基础设施建设与持续增长逻辑;第四,北美AI安全合作模式包括模型厂商与安全厂商绑定、生态目录构建、模块化服务提供等;第五,国内AI安全需求从合规驱动转向责任与创新驱动,布局智能体权限、身份审计等。
研报重点分析了AI安全产业动态与亚信安全布局、大厂频繁出问题引发安全监管升级、AI安全需求与商业模式变革探讨、北美AI安全合作模式与大模型厂商安全能力分析、国内外AI安全落地差异探讨、国内AI安全需求与亚信布局、AI安全与智能体管理:构建护城河与标准参与、AI时代的身份安全与生态安全管理、智能体身份与AI时代的治理必要性、AI安全挑战与身份认证机遇等多个方向。
当前AI安全市场的现状表现为:AI安全关注度提升,主要因AI应用深度变化、重大安全事件、监管趋严;AI安全业务需求变化,概率模型风险、AI本身成风险源、系统设计漏洞防护;客户关注点变化,关注确定结果与责任,沟通对象从安全部门转向业务与AI部门;市场需求变化,从基础套装转向AI基础设施解决方案;商业模式变化,从套装采购转向按需购买与持续增长;北美AI安全合作模式包括绑定合作、生态目录、模块化服务;国内外落地差异,北美技术先行,国内框架严格,安全厂商角色突出。
研报中提示的风险主要包括:AI安全挑战包括供给侧、AI自身及攻击层面问题,需要加强安全防护;AI作为概率模型带来不确定性及风险,需求侧需明确责任与结果确定性;大厂、金融机构及国家实体频发安全事件,推动客户关注系统安全性,但国内监管行动晚于欧盟、新加坡,体系全面,金融领域尤为严格;企业部署新技术需加强安全约束,监管收紧趋势明显;AI安全合作模式中,大模型厂商因精力成本结构侧重服务战略,安全能力积累不足,需借助外部安全公司。