鲸鸿动能商业信任与安全报告

*报告内文配图均由AI生成 前言 生成式AI的发展是一把双刃剑，在加速广告创意生产的同时，也为虚假信息、深度伪造广告提供了滋长空间，使数字广告生态面临更复杂的安全挑战。 而“内容安全”是开发者与广告主需要共同面对的“必答题”，也是数字广告生态的生命线。因此我们需要构建一套适配于AI时代的内容安全防控体系。过去几年鲸鸿动能一直以“合规治理+技术创新”为导向，持续优化内容风险防控能力，推进数字广告行业向更良性、更健康发展。 不过数字广告生态安全，不单只是治理黑灰色广告，而是需要从虚假流量、用户体验、内容风控、数据安全保障上层层把关，实现商业价值的协同增长。 为此我们从「信任机制」「内容风控」「创意能力提效与数据安全保障」三大方向出发，精准解决核心问题，提供良性竞争环境，保障开发者与广告主在鸿蒙生态的亿级流量下实现优质增长。 经过多年的持续深耕，到如今鲸鸿动能已经构建了一套全维度广告安全治理体系，这些有效的机制和措施，为构建健康可持续的数字经济生态提供了系统性解决方案，实现了商业效率与社会责任的兼顾。 鲸鸿动能商业信任与安全报告001 目录 CONTENTS 前言 001 0打造可1信广告环境 1.1建立端云联合反作弊系统：为营销加上护盾 003 推动行业良性生长 1.1.1端云协同能力，杜绝刷量作弊 004 1.1.2全链路监测模型，精准识别展示作弊 005 1.1.3年度反作弊运营成果 006 1.2开放用户体验能力，促进媒体用户留存 006 1.2.1多元化广告内容标签，满足媒体差异化需求 006 1.2.2广告接入模式升级，安全与效率双保障 007 1.2.3量化用户广告接受度，形成闭环优化流程 007 0内容安2全长效防线 2.1筑牢安全底线：严打红线违规，严防黑灰产业 009 守护媒体健康生态 2.1.1搭建内容安全准则，实时响应法规变化 009 2.1.2双维度识别体系，精准打击风险内容 009 2.1.3MoE图像风控大模型，破解AI违规内容 010 2.1.4年度安全治理成效 011 2.2智能工具能力增强，风控管控效率提升 012 2.2.1智能审核功能升级，风控效率跃升 012 0创意能3力提效 3.1智能创意工厂，广告生产效率新引擎 014 数据安全保障 3.1.1创意雷达：内容创意爆款“密码” 014 3.1.2智能图文“闪电”生成 016 3.1.3视频素材“极速”落地 016 3.2全方位数据安全防护体系，护航企业全周期发展 017 3.2.1构建全周期安全防御，给数据装上三道保险锁 017 3.2.2数据备份与恢复，给企业装上保险 018 3.2.3数据安全锁保障，用户隐私不泄漏 018 尾声 019 0打造可1信广告环境 推动行业良性生长 数字广告生态想要健康发展，关键是在一套信任机制下“多方共赢”，让流量造假者难以谋利，让用户不讨厌广告。对此，我们从“反作弊”与“用户体验”两大方向出发，在流量保真（确保每分广告费都花在真人身上）、交互合规（关闭按钮绝不变成广告陷阱）、数据防护（像保护银行卡号一样保护用户信息）、用户体验感知（把用户吐槽变成优化指南）等领域发力，为构建良性广告商业生态打好坚实基础。 鲸鸿动能商业信任与安全报告003 1.1 建立端云联合反作弊系统：为营销加上护盾 移动互联网和大模型技术高速发展的同时，移动广告变现规模逐年递增，然而移动广告作弊问题也如影随形，严重困扰着整个广告行业。移动广告作弊不仅给广告主造成了巨大的经济损失，还影响了广告平台的交付质量和品牌形象，对移动互联网广告市场长期的良性发展造成了严重损害。 为了维护广告主的利益，打造健康的广告生态，鲸鸿动能构建了端云联合的广告反作弊能力，对“刷量作弊”和“展示作弊”进行严格识别。 1.1.1端云协同能力，杜绝刷量作弊 01 拥有10亿级别设备信誉库 可以识别像模拟器、云手机、真人众包刷量等各种刷量作弊设备。 02 HarmonyOS安全检测能力 等于在手机上有了一道“安检”过程，对于虚假设备的广告请求，在经过端侧识别后，能对可疑广告进行拦截，在源头阻断作弊行为。 03 04 异常行为识别模型 对“用机器控制几百台手机每天同一时间做完全相同的动作”的设备农场作弊团伙，实现有效识别。 用户行为序列深度学习模型 对雇佣的真人刷手，即“某用户突然连续点击同类广告，且每次点击后立即关闭类”用户隐蔽作弊行为实现精准识别。 图中设备姿态长期不变，符合设备农场数据表现 鲸鸿动能商业信任与安全报告004 1.1.2全链路监测模型，精准识别展示作弊 目前鲸鸿动能将展示作弊行为，分为五类： 隐藏广告 误触广告 强制广告 误导广告 诱导广告 为识别以上作弊行为，我们构建了一套广告全链路行为监测模型。 等于我们在广告曝光-点击-落地页-转化行为的每个环节上，都安装了一个监测点，并进行跟踪，如果有异常将会及时干预，防止作弊规模扩散。 同时在全链路行为监测基础上，我们针对「虚假关闭按钮」及「诱导广告识别」两大典型的展示作弊行为进行了精准识别和打击。 虚假关闭按钮 在方面 系统通过捕捉广告位左上角异常点击热区，可以精准识别通过虚假关闭按钮伪造的作弊流量。 诱导广告识别 在方面 某些广告按钮会伪装成“免费领取”“恭喜中奖”“点击解锁”等文案，诱导用户误点，针对这些隐蔽作弊手段，我们做了半监督识别模型进行应对，可以在确保极低误伤率的前提下，提高作弊媒体的识别精度。 鲸鸿动能商业信任与安全报告005 1.1.3年度反作弊运营成果 2024年度，通过端云联合的广告反作弊能力，鲸鸿动能平台广告反作弊累计识别数百万风险设备，识别过滤数百亿次作弊流量，为广告主及时止损，同时为构建健康的华为广告生态，累计处罚违规媒体千余次。 反作弊 识别数百万风险设备 作弊流量 识别过滤数百亿次 违规媒体处罚千余次 1.2 开放用户体验能力促进媒体用户留存 1.2.1多元化广告内容标签，满足媒体差异化需求 在严格遵守行业合规标准下，我们拥有一套多元化体验分类体系，可以给广告素材进行超100种体验维度解析（比如风格调性、内容题材等），让定义标签更加精细化，满足不同媒体对内容调性的差异化要求，同时匹配合适的人群与场景，以及进行个性化拦截。 风格调性 内容题材 暗黑风乡土风喜庆风黑白照 … 广场舞/健美操老歌 霸总文古今野史 … 季节周期 春夏秋冬 法定节日电商节年货节 … 特殊保护 未成年人保护老年人保护 … 鲸鸿动能商业信任与安全报告006 1.2.2广告接入模式升级，安全与效率双保障 1、鸿蒙通过SDK下沉OS，实现媒体无需集成SDK包，提高媒体接入效率的同时，减少媒体包体积。 2、鲸鸿动能广告的UI和交互会及时适配安全合规类的整改要求，可实现及时自闭环处理。 鸿蒙生态与安卓生态的对比 1.2.3量化用户广告接受度，形成闭环优化流程 鲸鸿动能研发打造了「广告接受度模型」，通过采集用户接触广告后的各种行为，包括点击行为、正负反馈、投诉、举报等，最后量化用户对广告内容的接纳度，后续在一定范围内进行打压或过滤广告内容，提升用户的体验感。 广告接受度体验模型释义 概念 根据用户对广告内容的反馈综合量化其对广告内容的接受度 原理 靠体验接受度，提升用户的广告体验 案例 用户A：没有钱炒股，为什么还推炒股广告？用户B：给年轻人推广广场舞，哪有时间去跳？ 效果 接入体验接受度模型后，用户日均负反馈率下降12% 成绩 整个流程已形成「数据采集-智能分析-精准干预-效果验证」的生态闭环，实现用户体验与商业价值动态平衡 鲸鸿动能商业信任与安全报告007 0内容安2全长效防线 守护媒体健康生态 数字广告的规模化发展，对内容安全管理提出了更高要求。对此，鲸鸿动能从“智能审核体系”、“破解AI违规内容”和“人机协同机制”三大方向进行了实践，研发出能覆盖"识别-决策-处置-验证"全链路的智能风控体系，为广告主筑牢数字广告安全防线。目前我们的实践已取得阶段成果，全年已拦截2500万+违规素材，减少3亿次不良曝光。 鲸鸿动能商业信任与安全报告008 2.1 筑牢安全底线： 严打红线违规，严防黑灰产业 2.1.1搭建内容安全准则，实时响应法规变化 2024年，互联网广告、反不正当竞争、消费者权益保护及数据安全等领域监管持续监管 要求持续细化。为保障客户内容合规0事故，鲸鸿动能提前做足了三件事： 01快速响应法规 第一时间将新规转化为内部审核标准与培训体系，迅速完成策略部署； 02风险前置拦截 全年发布行业适配规则3套、迭代合规与用户体验规则60条，前置嵌入法务评审流程，强化广告配置与审核环节风险管控； 03合规能力外溢 广告Kit及时跟进相关立法执法情况，以及面向合作伙伴开展合规解读培训（全年累计覆盖超6000人次）。 在这套高效风控机制下，我们全年累计封停违规账户800+个、处置违规创意58万条，实现内容合规“0事故”。 鲸鸿动能商业信任与安全报告009 2.1.2双维度识别体系，精准打击风险内容 我们基于《广告法》等法律法规要求，建立了"红线+灰域"双维度风险识别体系。一方面实现色情、暴恐、赌博、违禁品等红线类违法违规内容的高召回和低误检，另一方面对擦边低俗、不良行为、恶心不适、品类管控等内容通过分级分类的方式，进行定制化审核。 违规广告内容场景 红线类违规识别灰域类风险管控 敏感 色情 暴恐 赌博 违禁 ··· 识别逻辑 依托千万级违规样本库,结合多种学术前沿的深度学习算法,实现对高风险违法违规内容的高召回和低误检 违规广告内容场景 擦边低俗 不良行为 恶心不适 品类管控 虚假内容 ··· 管控逻辑 根据类别和场景区分,并按照内容不良程度进行分级识别和管控,打上风险标签,实现分级分类的定制化内容审核服务 底层技术 优势:集成了文本、图像、音视频审核能力。 动态策略配置。可根据数据场景的不同,提供各类定制化的审核策略,最后返回风险得分以及细粒度的风控标签,给出机审处理建议。 核心能力一 根据素材信息进行综合决策。基于广告所属的行业信息以及素材来源,将判别是否能够直接应用机审结果进行放通或拦截;对于部分高敏感场景,将会进行人工二次复审以及人工定向抽检,以保证结果的准确性。 核心能力二 人机协同审核机制。对素材的实时曝光量进行监控,对于高曝光素材,启动人工审核以确认内容风险,防止漏检的不良内容被大范围传播。 核心能力三 广告场景内容审核需求及技术支持 2.1.3MoE图像风控大模型，破解AI违规内容 除了在"红线+灰域"内容进行管控外，另一类图像内容管控的风险更为棘手——AIGC生成工具的普及极大地降低了生成各类违规内容的门槛，结合提示词或辅助模型等技术，存在以风格、角度、变异等违规图像的方式，去绕过机器审核的风险。对此，鲸鸿动能基于混合专家（MoE）的图像风控大模型，降低风控多任务的训练难度，提升大模型图像风控效果。 在图像风控中加入MoE大模型后有哪些优势？ 优势一 可以增强对图像内容的理解和推理能力； 优势二 可以提升图像风控效果，能对不同风控审核任务，选择性激活不同的 模型参数，实现有效提升。 鲸鸿动能商业信任与安全报告010 MoE图像大模型构建与训练流程小课程： 第一步 视觉-语言大模型预训练及视觉指令微调 教大模型从图文关联、细节捕捉和推理等方面学会理解图像，比如兰花对应的是“植物”。 第二步 加入MoE混合专家模块 等于雇佣了“不同的专项专家”。比如图片中人的露肤度过高，就安排鉴黄师专家进行处理，而且可以调动多位专家共同“诊断”。 第三步 内容风控领域多任务微调 就是让模型进行封闭式学习，理解更多关于图像风控知识和审核标准。 广告场景内容审核需求及技术支持 鲸鸿动能商业信任与安全报告011 2.1.4年度安全治理成效 全