腾讯云云安全中心-大模型安全态势管理

云安全中心-大模型安全态势管理 大模型蓬勃发展带来新的安全风险 大模型安全管理痛点 国家网络安全通报中心多次通报大模型组件安全漏洞 大模型安全管理痛点 大模型使用泛滥 Ø大模型热度持续上升Ø大模型能力在不断提升Ø大模型应用场景愈加广泛Ø大模型部署使用门槛不断降低Ø云厂商帮助降低部署门槛Ø大模型API服务发展迅速Ø开源体系蓬勃发展Ø安全团队可能未及时针对大模型应用体系制定管理方案 Ø如何持续发现大模型相关资产？Ø如何快速了解大模型资产的网络开放状态？Ø如何及时检测大模型资产的安全风险？Ø如何实时监控大模型资产面临的攻击态势？ Ø大模型组件存在各式漏洞Ø组件配置不当触发未授权访问等风险Ø风险被利用，可能导致主机失陷、模型被投毒、模型丢失、数据泄露Ø训练与推理使用敏感数据，可能引发数据泄露，面临法律风险。 腾讯云云安全中心解决方案 02 大模型安全态势管理 大模型安全态势管理——围绕“大模型”提供资产识别、风险检测、攻击监控等能力 大模型组件风险检测 大模型网络攻击示警 组件资产识别 Ø通过网络扫描&主机安全识别组件风险。Ø展示组件漏洞与配置不当风险。 Ø通过网络探测&主机安全对大模型组件进行识别。Ø页面展示组件及关联资产，展示风险和网络攻击数量。Ø提供资产对公网暴露的路径及原生风险。 Ø大模型组件漏洞的攻击利用行为示警。 大模型组件识别——解决“看见”的问题 l网络扫描器从公网探测组件指纹。l主机安全agent从内部检查组件特征。l关联资产信息、网络攻击数量、风险数量进行展示。 l资产详情可查看大模型资产面向公网暴露的路径。 l网络产品关联l资产列表、主机进程通晒l资产原生风险展示：主机漏洞、高危基线风险 l可关联查看资产遭受的网络攻击、大模型相关风险。 大模型组件风险检测——依托网络扫描及主机安全风险检测能力，提取大模型风险 大模型组件漏洞攻击利用示警 支持识别的组件与漏洞清单 感谢聆听