猜你想问
这份报告主要分析了什么内容？
这份报告主要分析了2026年大模型与智能体系统的安全问题，构建了覆盖内容安全、合规安全、伦理安全、数据安全、鲁棒安全和应用安全的综合评测框架，对国内外代表性大模型及智能体系统进行了系统测试和分析。评测结果显示，8个参评模型的总体安全通过率分布在57.92%至72.11%之间，开源模型平均安全通过率为69.18%，闭源模型平均安全通过率为66.18%。报告还分析了智能体评测结果，指出安全风险从模型层向执行层显著放大，Agent产品层面的工程实现是影响安全的关键变量，数据访问与信息流安全是当前最突出的薄弱环节。
大模型与智能体赛道的发展趋势如何？
大模型与智能体赛道的发展趋势显示，安全问题日益突出，呈现出更强的隐蔽性、动态性和扩散性。风险贯穿数据、模型、训练、对齐、部署、应用和监管全生命周期。头部模型之间的整体差距已经明显缩小，QW-en3.6-Max-Preview、DeepSeek-V4-Pro、MiMo-V2.5-Pro构成综合表现最突出的第一梯队。当前大模型在核心价值观安全、攻击鲁棒性及部分显式违规场景中已具备较成熟的安全约束能力，但在恶意使用、虚假信息与幻觉、敏感信息泄露以及自主人工智能安全等更复杂维度上仍普遍存在短板。未来安全优化的关键将转向提升模型在复杂语境中的稳定判断、事实核验、隐私保护和高风险行为抑制能力。
报告重点分析了哪些方向？
报告重点分析了大模型与智能体系统的安全评测，包括内容安全、合规安全、伦理安全、数据安全、鲁棒安全和应用安全六个维度。评测发现，多数模型在部分显性风险识别、价值约束和常规攻击防护任务中取得了相对较高的安全通过率，但在虚假信息控制、敏感信息判断、复杂恶意意图识别以及自主任务边界管理等方面仍存在提升空间。模型在封闭式判断任务中的平均表现通常相对稳定，而在填空题及其他开放式生成任务中更容易暴露风险识别、事实控制和输出边界管理方面的不足。此外，报告还重点分析了智能体产品的安全表现，指出不同产品之间的ASR差异显著，反映出Agent产品自身的工程实现策略对安全起着决定性作用。
目前大模型与智能体市场的现状如何？
目前大模型与智能体市场的现状是，安全问题日益受到重视，但各模型在安全维度上表现存在明显差异。总体安全通过率分布在57.92%至72.11%之间，开源模型平均安全通过率为69.18%，闭源模型平均安全通过率为66.18%。头部模型如Qwen3.6-Max-Preview、DeepSeek-V4-Pro、MiMo-V2.5-Pro已构成综合表现最突出的第一梯队，但在恶意使用、虚假信息与幻觉、敏感信息泄露以及自主人工智能安全等更复杂维度上仍普遍存在短板。智能体评测结果显示，两款底座模型在四款Agent产品上均存在一定风险，但不同产品之间的ASR差异显著，反映出Agent产品自身的工程实现策略对安全起着决定性作用。
这份报告有哪些风险提示？
这份报告提示了大模型与智能体系统面临的多重安全风险。首先，安全风险从模型层向执行层显著放大，Agent产品层面的工程实现是影响安全的关键变量。其次，数据访问与信息流安全是当前最突出的薄弱环节，不同风险类型防护能力不均衡。此外，多数模型在虚假信息控制、敏感信息判断、复杂恶意意图识别以及自主任务边界管理等方面仍存在提升空间，特别是在开放式生成任务中更容易暴露安全控制不足。报告还指出，未来安全优化的关键将转向提升模型在复杂语境中的稳定判断、事实核验、隐私保护和高风险行为抑制能力，而非仅仅增加显式拒答规则。