AI安全系列研究报告：安全优先的大模型

AI安 全 系 列 研 究报 告 安全优先的大模型 * 目录 本报告调研的入选标准........................................................................................1本报告调研的安全能力供应商...............................................................................1报告背景...........................................................................................................2关键发现...........................................................................................................3 1.1定义 .................................................................................................................................41.2定义解读.........................................................................................................................4 二、发展潜力.....................................................................................................6 2.1.1大模型内生“缺陷”转化为安全原生需求.........................................................62.1.2大模型强监管态势夯实安全合规基础............................................................7 2.2安全能力核心逻辑........................................................................................................8 2.2.1以“模”制“模”......................................................................................................82.2.2以权限和身份管理重塑业务............................................................................92.2.3以安全工程保障系统工程................................................................................9 2.3未来趋势.......................................................................................................................11 2.3.1大模型重塑数字生活，人工智能治理道阻且长..........................................112.3.2端侧大模型需求激增，安全能力需要新突破..............................................112.3.3后训练是应用关键，数据价值再次攀升......................................................112.3.4公众模型成为基础设施，智能体百家争鸣..................................................12 三、推荐供应商...............................................................................................13 四、安全能力...................................................................................................17 4.1大模型业务系统安全风险..........................................................................................184.2安全优先的大模型能力图谱......................................................................................20 五、解决方案/典型案例推荐..............................................................................22 方案背景........................................................................................................................22方案概述........................................................................................................................22解决方案核心价值........................................................................................................23AI安全产品详解............................................................................................................24 5.2数字政府智算服务一体化安全保护案例......................................................................28 安全优先的大模型 项目背景简介................................................................................................................28大模型业务系统安全保护需求....................................................................................28整体解决方案................................................................................................................285.3科技制造业大模型安全防护案例..................................................................................33项目背景简介................................................................................................................33大模型业务系统安全保护需求....................................................................................33整体解决方案................................................................................................................34核心安全能力................................................................................................................355.4联想携手火山引擎推出可信个人云案例......................................................................37项目背景简介................................................................................................................37大模型业务系统安全保护需求....................................................................................38整体解决方案................................................................................................................38核心安全能力................................................................................................................395.5央企大模型综合治理案例..............................................................................................41项目背景简介................................................................................................................41整体解决方案................................................................................................................41核心安全能力................................................................................................................425.6杭州市数据资源局大模型安全防护案例......................................................................45项目背景简介.......................