行业研究公司研究宏观策略财报招股书会议纪要 seedance2.0 低空经济 DeepSeek AIGC 大模型

融资合艾的股份

金融 2025-04-16 CSA GCR 张彦男 Tim

身份威胁发展概述
- 以身份为中心的安全架构强调“永不信任，始终验证”，将身份作为网络安全的基础。
- 身份的安全威胁包括身份盗用、伪造、滥用等，80%的网络攻击事件与身份和访问有关。
- 身份种类繁多，包括人类身份和非人类身份（如服务账户、系统账户等），数量庞大且持续增长。
- 身份安全挑战包括运维主体改变、生命周期改变、第三方身份、继承管理员、影子访问等。
- 云计算加剧了身份安全威胁，如“继承管理员”和“影子访问”成为特有威胁。
- 身份安全发展趋势包括身份威胁检测与响应（ITDR）、身份编织（IdentityFabric）等。
AI发展概述
- AI发展经历了早期历史、第一次热潮、寒冬与反思、专家系统兴起、机器学习崛起、深度学习突破等阶段。
- AI自身面临的安全挑战包括算法和模型安全、算力基础设施安全、数据和隐私安全、AI系统滥用、框架和组件安全等。
- GPTStore中模型与用户数据被盗案例揭示了AI系统面临的隐私和安全风险。
- 与数字身份相关的AI安全挑战包括数字身份信息安全挑战和数字身份验证安全挑战。
AI影响数字身份行业发展
- AI优化身份智能治理，通过高级分析和自动化功能增强安全性、简化访问管理。
- AI驱动身份欺诈检测，实时监控数字交互，快速识别可疑模式并标记潜在威胁。
- AI助力智能角色挖掘，通过数据挖掘和机器学习识别角色层次结构和依赖关系。
- AI增强行为智能分析与预测，通过监控用户模式和行为识别偏差和潜在威胁。
- 数据隐私是数字身份安全的基石，AI在确保敏感信息保护方面发挥着重要作用。
监管与合规：国内外政策分析
- 国际标准化组织（ISO）系列标准提供了AI风险管理指南、管理系统、可信度概述等。
- 欧盟法规《人工智能法案》对人工智能系统进行分类管理，避免对个人身份信息的不当处理。
- 美国国家标准与技术研究院（NIST）AI系列标准提供了AI风险管理框架、对抗机器学习、可信人工智能的语言等。
- 国内政策与标准包括《网络安全法》《数据安全法》《个人信息保护法》等，以及相关国家标准和行业标准。
- 行业要求如《生成式人工智能服务管理暂行办法》等，对人工智能相关的身份信息、数据安全、算法歧视等问题进行规范。
AI赋能身份安全
- AI识别风险情报内容，通过NLP、ML和异常行为检测技术识别潜在的身份安全问题。
- AI分析发现威胁，通过行为画像分析、深度学习模型与威胁检测、异常检测与多因素协同防御、实时威胁响应与自动化修复等技术增强对威胁的识别与响应能力。
- AI增效数字身份工程建设，通过智能解析资产间的连接模式，加速数字身份网络的构建过程。
- AI协助身份运营，通过大模型和行业知识在组织内推广数字身份理念，并与最终用户及管理员有效交互，实现更智能的运维。
- AI赋能云计算管理计算与存储单元，增强ITDR效能，及时发现并防范非法访问、权限滥用等风险。
数字身份赋能AI本身安全
- 数字身份技术在AI系统开发过程中的身份管理、AI训练数据的身份安全、运行环境中的身份验证与授权、自适应安全策略与智能威胁防护、数字身份对AI模型透明性的提升、部署阶段的身份验证与管理等方面起到了至关重要的作用。
AI赋能零信任发展
- AI赋能零信任发展包括自适应和连续的用户身份验证、自动化访问决策、精细化权限管理、智能化数据分析与洞察、智能威胁检测与响应等方面。
行业应用场景
- AI赋能身份安全的行业应用场景包括身份认证与访问控制、欺诈检测与预防、隐私保护与合规性、身份生命周期管理等方面。
展望和建议
- AI融合ITDR的发展将提高身份安全的准确性、效率和安全性，并带来经济效益。
- AI融合ITDR对网络安全行业发展具有积极影响，但也需要解决AI模型中的潜在偏见，并优先考虑强有力的数据隐私措施。
- 对AI融合ITDR的未来发展建议包括加强技术研发与创新、制定行业标准和法规、建立安全风险评估机制、推动跨领域合作、加强安全教育和人才培养、提高产品和服务的自主可控能力、推动AI伦理和可解释性研究等。

©2025云安全联盟大中华区-保留所有权利。你可以在你的电脑上下载、储存、展示、查看及打印，或者访问云安全联盟大中华区官网（https://www.c-csa.cn）。须遵守以下：(a)本文只可作个人、信息获取、非商业用途；(b)本文内容不得篡改；(c)本文不得转发；(d)该商标、版权或其他声明不得删除。在遵循中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。致谢《融合AI的身份威胁》由CSA大中华区IAM工作组编写完成，感谢以下专家和单位的贡献：组长：戴立伟于继万谢琴专家组：张淼王彪鹿淑煜吕波于振伟张彬崔崟贺志生张建辉刘国强程丁周利斌朱璐贡献单位：北京天融信网络安全技术有限公司三未信安科技股份有限公司华为技术有限公司北京启明星辰信息安全技术有限公司深圳竹云科技股份有限公司奇安信网神信息技术(北京)股份有限公司（以上排名不分先后）关于研究工作组的更多介绍，请在CSA大中华区官网（https://c-csa.cn/research/）上查看。在此感谢以上专家及单位。如此文有不妥当之处，敬请读者联系CSAGCR秘书处给予雅正!联系邮箱research@c-csa.cn；云安全联盟CSA公众号。目录致谢...............................................................................................................................4 1.身份威胁发展概述....................................................................................................81.1以身份为中心的安全架构................................................................................81.2身份的安全威胁与挑战....................................................................................81.3云计算带来的身份威胁与挑战......................................................................101.4身份安全的发展趋势......................................................................................101.5小结..................................................................................................................122.AI发展概述.............................................................................................................122.1AI发展历程......................................................................................................122.1.1AI的早期历史...........................................................................................122.1.2AI的第一次热潮.......................................................................................132.1.3AI的寒冬与反思.......................................................................................132.1.4专家系统的兴起.......................................................................................132.1.5机器学习的崛起.......................................................................................142.1.6深度学习的突破.......................................................................................142.1.7人工智能的发展.......................................................................................152.1.8未来发展的趋势展望...............................................................................152.2AI自身面临的安全挑战..................................................................................162.2.1AI面临的常见安全挑战...........................................................................162.2.1.1算法和模型安全挑战........................................................................162.2.1.2算力基础设施安全挑战....................................................................172.2.1.3数据和隐私安全挑战........................................................................182.2.1.4AI系统滥用挑战................................................................................182.2.1.5框架和组件安全挑战........................................................................192.2.2GPTStore中模型与用户数据被盗案例..................................................192.2.3与数字身份相关的AI安全挑战.............................................................212.2.3.1AI面临的数字身份信息安全挑战....................................................21 2.2.3.2AI面临的数字身份验证安全挑战....................................................22 3.AI影响数字身份行业发展.....................................................................................233.1AI优化身份智能治理......................................................................................233.2AI驱动身份欺诈检测......................................................................................243.3AI助力智能角色挖掘......................................................................................253.4AI增强行为智能分析与预测..........................................................................263.5数据隐私..........................................................................................................274.监管与合规：国内外政策分析............................................................................284.1国外政策与标准..............................................................................................284.1.1国际标准化组织（ISO）系列标准.........................................................284.1.2欧盟法规（REGULATION(EU)）.........................................................294.1.3美国国家标准与技术研究院（NIST）AI系列标准...........................294.2国内政策与标准..............................................................................................304.2.1国家法律法规...........................................................................................304.2.2国标及行标...............................................................................................314.2.3行业要求...................................................................................................325.AI赋能身份安全.....................................................................................................335.1AI识别风险情报内容......................................................................................335.2AI分析发现威胁....................

点击免费查看完整报告