蚂蚁集团：大模型应用可信框架助力企业构建可信 AI 体系

蚂蚁集团：大模型应用可信框架助力企业构建可信AI体系

核心观点与市场综述

生成式AI技术正席卷各行业，重塑业务流程，但也带来了新的安全风险。大模型及其驱动的智能体在规模化应用中，其内生复杂性导致企业运营管理难度和安全暴露面扩大。模型幻觉、内容安全、数据安全等问题亟待解决。构建端到端的可信AI体系是关键，需从企业战略层面规划设计，将安全、治理左移，结合AI风险评估，将安全、数据治理与合规放在首位。

蚂蚁集团DKCF大模型可信应用框架

蚂蚁集团提出DKCF大模型可信应用框架，旨在解决大模型在金融、医疗等专业领域应用中的可信挑战。DKCF框架包含四大核心模块：充足数据（D）、专业知识（K）、能力协同（C）和高效反馈（F）。

• 充足数据：确保大模型依赖充分的数据给出决策结果，解决推理核验挑战。
• 专业知识：通过建设行业高质量知识库和领域知识图谱，解决领域知识不足导致决策错误的问题。
• 能力协同：利用多智能体协同处理复杂任务，通过高阶程序技术（HOP）解构任务，提升执行效率。
• 高效反馈：构建闭环业务流程，使推理结果有效指导数据进一步收集和供给，提升应用可靠性。

框架最佳实践

蚂蚁集团基于DKCF框架构建了风险研判助手，在网络安全威胁检测中降低人力投入，降低对人员研判知识的要求，并缓解大模型幻觉问题。该助手包括切面数据预处理、知识模块、Agent模块、线索模块和反馈循环模块，有效提升研判效率和准确性。

公司战略与未来展望

蚂蚁集团聚焦“支付宝双飞轮”发展、坚定“AI优先”战略和加速全球化三大发展战略。未来，企业需关注模型的合规、内容安全、访问安全、数据安全等内容，建设统一的AI安全治理框架，实现构建可信、可靠、安全的AI体系的目标。AI治理体系需与战略相辅相成，在评估和运营阶段重点关注大模型执行过程中的可信和安全。

要点提示

建议蚂蚁集团加快推进DKCF框架的理论概念落地进程，树立多个标杆案例，构建大模型可信应用的技术生态，帮助用户建设符合自身需求的大模型安全可信体系。