2026年国家网络安全宣传周在济南举行,强调人工智能(AI)安全的重要性,并发布了《人工智能安全治理框架3.0》等成果。活动聚焦AI安全领域,旨在提升公众对AI安全风险的认知,推动相关技术和管理体系的完善。
AI安全趋势关注整体AI防御体系而非单点产品。安全厂商正提出多样化解决方案,如启明星辰的云智算安全一体化防护、天融信的“三域联防”框架、绿盟科技的“模型+工具+Agent+Skills”四层叠加等。海外方面,Anthropic发布《ZeroTrustforAIAgents》白皮书,提出分层零信任架构和应对AI加速攻击的AgenticSOAR体系。
报告重点关注AI安全防御体系建设,分析国内外厂商在AI安全领域的创新实践。同时,探讨智能体从“辅助工具”演变为“数字主体”后,安全重心从“内容安全”转向“权限、数据与执行安全”的演变趋势。推荐关注启明星辰、天融信、深信服等在内的AI安全产业链相关公司。
当前AI安全市场正处于快速发展阶段,技术厂商积极布局AI安全解决方案,以满足日益增长的AI应用安全需求。国内外厂商在AI安全领域各有特色,如国内厂商注重本土化需求,提供定制化解决方案;海外厂商则在前沿技术探索上具有优势。市场整体呈现多元化竞争格局。
本报告提示的风险包括技术落地不及预期、行业政策不及预期、地缘政治风险等。技术落地方面,AI安全技术的研发和应用仍面临诸多挑战;政策方面,相关法规的制定和执行尚需完善;地缘政治风险则可能对供应链和技术合作产生影响。