大模型时代安全如何洗牌

大模型的“快慢思考”

• 引入认知心理学中的“快思考”与“慢思考”概念，解释大模型的能力边界：
  • “快思考”：大模型擅长通过海量数据训练，进行文字符号层面的统计处理，找出规律并生成内容，模拟人脑的快速直觉判断（如异常行为检测、告警降噪等）。
  • “慢思考”：本质性理解、多步推理和反思，需要结合外部工具和知识，目前大模型尚未完全实现（如威胁归因、复杂场景研判等）。
• 推理大模型（如GPT-o1/o3、DeepSeek-R1）通过“深度思考”向“慢思考”靠近，但仍是基于统计性关联，而非本质性理解。

当前大模型的理解力

• “统计性理解”：大模型通过大量语料学习符号关联，表现逼近人类“慢思考”（如数学、代码任务中与OpenAI-o1可比肩）。
• “本质性理解”：人类基于逻辑和事实形成关联，大模型仍存在局限（如事实性知识、反思推理能力不足）。

现阶段如何做好安全大模型

• 定义：安全大模型需超越通用大模型，完成EDR、流量研判等专项任务，并沉淀专家经验。
• 必备条件：海量安全数据、自研模型架构、专项训练。
• 整体思路：
  • “快思考”任务：通过场景化专项训练和海量标签语料优化模型结构（如CCoE架构的分区训练）。
  • “慢思考”任务：结合Agentic Workflow，利用外部知识和工具增强智能体规划与反思能力。

360安全大模型落地实践

• 实践路线：海量安全数据 + CoE架构 + 专项训练 + 专家经验沉淀 + 产品赋能。
• CCoE架构：灵活的垂直大模型结构，支持多底座调整和专家分区训练，提升鲁棒性和效率。
• 现阶段训练效果：分区训练有效解决多任务冲突和过拟合问题。
• 未来探索：CoAT框架（记忆共享）、“思想钢印”等新范式，增强大模型推理能力。

核心结论

• 大模型擅长“快思考”，但“慢思考”仍需创新突破；安全大模型需结合场景化训练和智能体技术，实现“主任医师”级能力。
• 思维模式的突破是安全大模型发展的关键。