2025巨量引擎商业信任与安全治理报告

2025 巨量引擎商业信任与安全治理报告 前言PREFACE 2025 年，我们正站在一个互联网广告产业历史性转折的节点上。生成式人工智能（AIGC）的浪潮以前所未有的速度与广度席卷而来，它不再仅仅是辅助创作的画笔，更演进为能够深度理解、自主生成、智能交互的“新质生产力”。 然而，技术的每一次跃升，在照亮前路的同时，也必然投下新的阴影。当 AI 让“千人千面”的精准沟通成为常态，它同样为虚假宣传、身份伪造、技术欺诈披上了更具迷惑性的外衣。这标志着广告生态的安全攻防，已从“人与规则”的对抗，全面升级为“AI 与 AI”的复杂博弈，治理深水区之下的暗流更为湍急。 与此同时，政策与监管的框架也在快速响应这一技术跃迁。随着 2026 年“十五五”规划开局之年的临近，国家对人工智能的治理提出了更系统、更明确的要求。平台的责任不仅在于拥抱技术带来的效率，更在于驾驭技术潜藏的风险，在创新活力与秩序规范之间，寻得那个至关重要的动态平衡点。正是在这样一幅机遇与挑战并存、创新与责任共生的宏大图景下，巨量引擎商业信任与安全部门展开了 2025年的工作。 这份报告，便是我们交出的一份年度答卷。它详细记录了在 AI 全面渗透的元年，巨量引擎如何思考、如何行动、如何坚守。您将看到，我们如何通过超 600 条规则的推陈出新与自研多模态大模型的技术攻坚，将平台全链路风险大幅降低；如何在一年内通过 AI 驱动的方式，前置拦截百亿规模的违规素材，关停超 400 万个广告违规账户；又如何将冰冷的科技，转化为对“一老一少”等数字弱势群体有温度的服务保障。 这不仅仅是一份成果的陈列，更是一次坦诚的对话。我们希望通过它，向用户展示我们捍卫信任的决心与能力，向合作伙伴阐明我们共建健康生态的路径与诚意，也与行业同仁共同探讨智能时代广告治理的未来方向。治理的终极目标，从来不是束缚创意，而是为了护航一个更具活力、更可持续、更能赢得长久信任的商业未来。 目录CONTENTS 第一章 守护每一次点击：构筑用户可信赖的体验长城 先手棋：让规则“说 AI 能懂的话”，从源头净化信息生态生命线：量化“静默的抱怨”，让 CCR 指标驱动体验精耕防护盾：穿透履约“黑箱”，构建后链路智慧守护网安全网：应对“AI 工业化”黑产，打赢技术升维对抗战暖心站：设立“一老一少”专项通道，让科技普惠更有温度0506091214 赋能每一次创造：做广告主高效合规的智能伙伴 第二章 导航仪：从“冷拒绝”到“热指引”，解构合规黑盒工具箱：从“人工提效”到“智能创作”，提供生产力跃迁教练场：从“被动约束”到“主动成长”，共建合规文化171920 共绘未来蓝图：引领行业迈向智能可信新纪元 第三章 立标准：从“实践首创”到“行业共识”，贡献治理方法论克难关：以“AI 治理 AI”，探索风控技术无人区担责任：从“线上治理”到“线下共治”，践行平台社会价值222325 第一章 守护每一次点击构筑用户可信赖的体验长城 数字时代，用户注意力与信任成为最稀缺的资源。随着生成式 AI 彻底重塑内容生产范式，广告体验正经历一场“真实性危机”：高度拟真的视觉奇观背后，可能隐藏着反科学的虚假宣传；情感饱满的“专家”讲述，或许只是深度伪造的营销话术。 用户面临的，是一个信息高度富饶却难以甄别的复杂环境。对广告平台而言，单纯的信息分发角色已然过时，构建一个能让用户放心点击、安心消费的“可信环境”，成为关乎存续的核心竞争力。这要求治理思维从被动响应向主动建构转型，从单点管控向覆盖用户全旅程的体验保障跃迁。 在巨量引擎，我们深信，用户信任是商业生态繁荣的唯一基石。2025 年，巨量引擎将守护的承诺系统性地贯穿于用户从感知广告到完成履约的全链路，致力于在 AI 浪潮中兑现 “好内容、好履约、好服务、底线安全” 的坚实承诺，将每一次交互都转化为信任的累积。 01先手棋： 让规则“说 AI 能懂的话”，从源头净化信息生态 在风险抵达用户眼前之前将其精准拦截，是最高效的防护，而这依赖于规则体系能否被模型精准理解与执行。面对复杂多变的 AI 生成内容，传统的非结构化规则描述往往显得模糊不清，难以被模型理解。 2025 巨量引擎商业信任与安全治理报告 为此，巨量引擎投入巨大资源，重构了风控体系的基石——推出了“规则 2.0”体系。这不仅仅是一次文本修订，更是一场治理逻辑的革新。平台通过语言规范化（如统一使用“不得涉及…”等标准句式）、构建专业知识库（解释“三品一械”等专业术语）、补充海量正反案例以及优化格式规范，将原本依赖人类经验解读的规则，转变为结构化、无歧义的“机器语言”。 违规案例 例如，针对泛滥的“虚构人设”营销，规则 2.0 不仅明令禁止无资质者冒充专家、医生等身份进行背书，更通过案例库，让 AI 能学习清晰区分“影视剧情中的角色”与“恶意伪装的虚假专家”，实现了对医疗、金融等高危行业的分等级精准管控。这套体系如同为 AI 审核官装备了高精度导航仪，使其对违规意图的判定准确率大幅提升，为构建高度自动化的机审体系奠定了坚实基础。 02生命线： 量化“静默的抱怨”，让 CCR 指标驱动体验精耕 在用户体验管理中，显性的投诉仅是冰山一角，更大量的用户不满隐藏在评论、广告评价等行为数据中。为了系统性地捕捉这些“静默的抱怨”，我们在广告领域首创并持续迭代消费者抱怨指数（CCR，CustomerComplainRate）体系。 第一」 / 守护每一次点击 CCR 如同一个精密的“声纳系统”，它深度聚合用户评论、举报、投诉、广告评价等多维信号，并将其量化为可分析、可归因、可行动的数据指标。2025 年，这套系统的价值得到充分验证： 这一成绩的背后，是我们基于 CCR 洞察构建的“分级精准治理”模型：对危害极大的金融“债务优化”、非法“特供酒”等，我们坚决执行禁投，从源头掐断风险；对短剧夸大收益、招聘虚假高薪等“变种”违规，我们利用 AI 模型的快速迭代能力，实现“场景化精准打击”；对于非主观恶意违规且有改善意愿的客户，我们则采用“软性调控”，从刚性“硬治理”转向人性化的“牵引性治理”，深入商家广告经营实际，结合具体违规情况帮助、引导商家调优广告投放，平衡商业体验。 这套组合拳的威力，得益于底层基础设施的全面智能化升级。其中，实时信源平台覆盖超过 20 个主流行业，通过实时汇聚与分析多维度数据流，将风险定位的平均时效从 4 小时大幅压缩至 15 分钟，实现了风险的快速感知与“日清”机制。而处置效率的飞跃则源于 AI 智能体（AIAgent）在游戏、医疗等重点行业的深度应用。Agent 能够自动执行“监听 - 研判 -处置”的全链路任务，在游戏道具虚假宣传、医疗违规承诺等复杂场景中，推动人工介入率降低 62%，实现了处置的精准与自动化。感知的“快”与处置的“准”紧密咬合，共同构成了一个从风险识别到闭环解决的增强回路，显著提升了对用户体验问题的整体响应与治理效能。 风险定位的平均时效从小时大幅压缩至分钟415 知识产权服务违规广告专项治理 在专业性要求极高的知识产权服务领域，潜藏着由虚假承诺与资质缺失构成的“信任陷阱”。此类广告乱象不仅扰乱市场秩序，更直接侵害创新主体与用户的合法权益，甚至可能阻碍行业创新活力的释放。为清除这一顽疾，巨量引擎将该领域广告乱象整治纳入常态化治理工作，以系统性手段对行业乱象进行深度清理。 平台直击三大核心违规场景：伪造或虚构专利授权成果、冒用官方标识、误导性承诺。通过 AI模型精准识别与人工审核深度结合，仅在 2025年第四季度，平台就累计下线违规广告超 3000条，严肃处置了 300 余个违规账户。这不仅是一次违规内容的清理，更是对行业生态的“刮骨疗毒”，为合规经营者扫清了市场障碍。 治理成效的背后，是一套覆盖业务全周期的 “准入 - 宣传 - 服务”三位一体防控体系： 资质准入闭环 严格核查《专利代理机构执业许可证》等专业资质，并与官方数据库进行动态校验，从源头确保经营主体合规。 宣传内容清源 建立专业术语库与违规话术模型，严禁任何形式的官方名义冒用，并对“加急下证”、“包授权”等夸大承诺进行实时拦截，确保广告信息真实、准确。 服务行为溯源 强化对“挂证”、非正常申请代理等隐蔽违规行为的识别与打击，建立广告与服务后效关联机制，对违规主体实施快速处置与长效禁入。 此次治理不仅是平台自身的风控行动，也是与社会共同构建健康生态的实践。平台通过优化举报渠道、加强用户教育，鼓励公众参与监督，逐步推动形成“平台治理 + 用户监督”的共治格局，让合规真正成为知识产权服务行业的普遍共识与发展基石。 03防护盾： 穿透履约“黑箱”，构建后链路智慧守护网 广告的价值最终体现于点击之后的承诺兑现，而后链路曾长期是平台治理的“黑箱”地带。2025 年，我们持续点亮这片深水区，通过智能化建设将可信承诺延伸至履约终点。 在隐私保护层面，我们将“隐私号”服务从核心场景拓展至医疗、法律、教育等 4 个高风险行业，并覆盖私信等新场景。产品设计上，我们在用户留资前增设强提示，告知其信息将被加密保护；留资后， 用户可通过“服务记录”功能，像管理手机通讯录一样，自主开启“勿扰”或永久关闭某个商家的联系权限。 这一设计理念的改变带来了惊喜成果：用户安全感提升的同时，商家获客转化率（CVR）逆势提升了 8.89%，而骚扰话单风险率则下降了 34.4%，实现了用户权益与商业效率的完美统一。在合规基建上，我们通过自动化系统刚性落实 APP备案要求，实现 99.08% 的平台备案率，并对未合规 APP建立“1 小时”快速处置机制，筑牢了移动生态的安全底线。 延展阅读 隐私号，是一项核心的隐私保护技术。其原理是在用户(A)与商家销售(N) 之间设立一个临时的虚拟号码 (X) 作为通信中介，商家销售仅能联系此虚拟号，从而确保用户的真实手机号 (A)全程不泄露。 这项服务不但深度保护了用户隐私，更为合规商家带来了三重价值： 增强用户信任 在留资页面展示“隐私保护”标识，有效提升用户的安全感和留资意愿。 保护客户资源 防止用户的真实联系方式在服务初期泄露，降低被竞争对手骚扰或挖角的风险。 辅助合规经营 平台借助对通话过程的规范化管理，帮助商家规避潜在的骚扰投诉风险，保障业务健康发展。 然而，这项以保护为初衷的技术，也曾被少数不法分子试图扭曲为规避监管的“暗箱”。治理前主要存在两类风险： 隐私号的隔离特性，可能被用于客户资料非法倒卖或违规内容传播。例如，用户向合规企业 A 留资后，信息可能被非法转卖给推销违禁产品的企业 B，使用户在平台外遭受骚扰甚至诈骗，形成了治理盲区。 部分违规商家将无法通过广告审核的内容（如“考试包过”“免考办证”），转向私密的隐私号通话场景进行口头承诺，绕开平台监管。此外，非工作时间高频拨打电话等不当行为，也损害了用户体验。 为此，平台启动了专项治理，目标正是将隐私号从潜在的“风险盲区”重塑为全面受控的“安全通道”。我们构建了“感知 - 识别 - 处置”全链路的智能治理体系，其核心是让大模型能力深入通信环节。首先，通过智能语音转写技术，将通话内容转化为可分析的结构化文本。随后，自研的多维识别模型开始深度工作： 在违规内容识别上 在行为风险研判上 模型能够进行深度语义解析，精准捕捉那些规避审核的变相承诺。例如，在驾培行业，当商家在通话中暗示“有特殊渠道保证通过”，模型能结合上下文识别其违规本质，封堵住线下违规的漏洞。 系统整合通话内容、拨打频次、时段及历史行为等多维数据，通过交叉分析，智能识别出恶意骚扰或营销轰炸等异常模式。 据内部专项调研数据显示，经过一年的隐私号专项治理，平台用户隐私保护相关指标同比显著提升，尤其是广告场景下个人信息违规收集问题得到有效遏制，用户隐私安全保障水平实现跨越式提升，为合规经营的市场主体营造了良好的生态环境，也进一步强化了用户对平台服务的信任度。 这场由 AI 驱动的深度治理带来了