面向产业的算法治理研究（2025年）——构建可信赖的算法治理路径

——构建可信赖的算法治理路径 (2025年) 中国信息通信研究院人工智能研究所中国人工智能产业发展联盟安全治理委员会2026年2月 版权声明 本报告版权属于中国信息通信研究院、中国人工智能产业发展联盟安全治理委员会，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院”。违反上述声明者，本院将追究其相关法律责任。 前言 国务院《关于深入实施“人工智能+”行动的意见》明确提出，要“推动模型算法、数据资源、基础设施、应用系统等安全能力建设，防范模型的黑箱、幻觉、算法歧视等带来的风险，推动人工智能应用合规、透明、可信赖”。当前，人工智能大模型技术加速渗透千行百业，算法已从互联网平台技术底座跃升为驱动数字经济高质量发展、培育新质生产力的核心生产要素，深刻重塑着产业形态、劳动关系与社会治理模式。同时，算法“黑箱”、数据滥用、大数据“杀熟”等问题也随之凸显，进而对个体权益保障、数字经济可持续发展提出挑战。在此背景下，算法治理已非单纯技术议题，而是关乎经济发展、社会公平、产业生态的重大治理命题，成为落实“人工智能+”发展战略、推动平台经济从“扩规模”向“优质量”转变的关键抓手。 面对算法治理的困境与挑战，亟需兼具理论深度与实践可落地的产业自律方案。中国信息通信研究院与中国人工智能产业发展联盟安全治理委员会，联合含头部平台企业、高等院校、科研院所在内的共14家单位，召开多轮“构建可信赖的算法治理路径”研讨会，广泛吸纳各方智慧，系统梳理全球实践，剖析算法在技术、规则、平台层面的核心矛盾，最终形成本报告。报告提出构建“从合规驱动迈向信任驱动”的可信赖算法治理产业自律框架，锚定个体权益保障与公共价值维护双重目标，推动治理重心从技术层向规则层与平台层迁移，围绕公开透明、信息保护、公平公正、内容保障四大 支柱，形成技术、规则、平台三位一体的治理体系。 算法治理绝非一日之功，需长期弘扬和践行“算法向善”的理念。一方面，需依托标准化路径夯实治理根基，以公开透明为核心，围绕信息保护、公平公正、内容保障三个基本方面，构建算法治理的技术规范、管理标准与评测体系；另一方面，需将治理要求贯穿算法全生命周期，强化事前识别、事中防控、事后处置的动态管控，完善政府、产业、公众多元参与的共治格局，推动算法从“工具理性”向“价值理性”转变。 最后，本报告的完成离不开各参编单位及专家的鼎力支持与深度参与。在此，谨向中国社会科学院法学研究所、中国人民公安大学、对外经济贸易大学、中国政法大学、清华大学、中国人民大学、中国科学院信息工程研究所、美团研究院、阿里研究院、腾讯研究院、抖音、滴滴、高德、马上消费等所有为报告编制提供智慧贡献的单位与专家表示衷心感谢！ 目录 一、算法概述：算法治理的背景与提出....................................................................1 （一）算法技术赋能关键应用场景.................................................................. 1（二）当前算法治理面临多重挑战.................................................................. 2（三）构建面向产业的算法治理路径.............................................................. 4 二、算法规制：全球算法治理的监管举措................................................................5 （一）我国统筹发展和安全，开展全生命周期治理...................................... 5（二）美国保障创新活力，赋权个体与约束公权力...................................... 6（三）欧盟以权利为核心，打造强监管合规框架.......................................... 7（四）总结：中外算法规制的差异与趋势...................................................... 8 三、算法透视：从应用到治理的算法分层逻辑........................................................9 五、小结......................................................................................................................25 图 目 录 图1面向产业的可信赖算法治理路径................................................................... 5图2可信赖算法治理产业自律框架..................................................................... 16图3抖音安全与信任中心网站............................................................................. 18图4滴滴线下派单规则专题培训会..................................................................... 20图5美团骑手端APP“安全分”奖励截图.........................................................22图6阿里巴巴全链路无偏学习解决方案............................................................. 24 一、算法概述：算法治理的背景与提出 （一）算法技术赋能关键应用场景 随着新一轮科技革命和产业变革深入发展，算法正成为驱动互联网平台经济和新质生产力发展的重要力量。一方面，算法技术迈入以人工智能大模型为主导的时代，促进了互联网平台应用的蓬勃发展。从衣食住行的内容推荐到骑手、网约车的调度决策，从跨领域、跨平台的信息检索再到文本、图像、音视频的生成合成，算法已成为互联网企业平台的技术底座，也是中国互联网世界的“隐形舵手”1。另一方面，深度学习算法与先进生产要素深度融合，为新质生产力的加速形成与发展注入了强大动能。当前算法技术与大数据、人工智能等前沿科技交互协同，展现出自学习、自训练、自优化等特征，在促进产业升级和推动数字经济高质量发展等方面展现出巨大潜力2。 作为智能技术创新演进的关键所在，算法赋能效应在多个关键场景中得到充分释放。一是信息服务算法实现内容延展，精准的个性化推荐、排序精选和检索过滤算法成功助力我国数字服务“走出去”。以抖音、小红书等为代表的中国互联网企业，凭借其出色的Wide &Deep模型、NoteLLM等推荐算法，打造出具有全球影响力的内容平台。二是资源调度算法显著增质提效，高效的订单匹配与路径规划算法为快速崛起的即时配送行业提供关键支撑。根据商务部国际贸易经济合作研究院报告指出，2024年我国即时零售市场规模接近7800亿元，预计到2030年将超过2万亿元3。三是生成合成算法促进创新迸 发，以生成式人工智能（AIGC）为代表的深度合成算法为数字文化产业注入新的活力。越来越多的企业和个人开始使用该技术辅助甚至主导动漫制作、游戏开发和广告设计，不仅大幅提升了内容生产的效率与多样性，降低了创作门槛，还催生出虚拟数字人、人工智能绘画等新兴业态，推动文化产业进入智能化生产新阶段。 （二）当前算法治理面临多重挑战 算法技术在推动经济社会智能化转型的同时，也放大了既有挑战，并带来新的风险形态。一方面，算法技术加剧传统风险。算法的非线性技术特性，让决策过程缺乏透明度，加剧“问责难”困境；数据大规模采集与跨场景流转，放大传统隐私泄露风险；而模型训练依赖现实数据，其自带的偏差可能固化社会歧视，让不平等结构更难被打破。另一方面，算法技术带来新兴风险。算法推荐机制通过强化偏好营造“信息茧房”，重塑信息传播与认知模式；算法代替个人进行资源调度决策，间接影响了新就业形态劳动者权益；大数据与人工智能技术的精准画像能力，进一步催生出“杀熟”等新型市场不公行为。 面对新旧交织的风险，各国政府与产业界正积极探索协同治理路径。2025年3月，中国网络媒体论坛“坚持主流价值导向 推动算法向上向善”主题分享会在广西南宁举行，多家平台企业在政府部门和主流媒体的见证下集体签署《算法向善南宁宣言》4。2024年6月，在美国儿童权益组织和多州检察长联盟的舆论影响下，纽约州通过国内首部《防止成瘾性内容剥削儿童法》，限制平台算法向18岁以下 的用户提供成瘾性内容5。2025年1月，在《通用数据保护条例》《数字服务法》等框架指引下，12个欧盟及英国民间组织呼吁Deliveroo、JustEat等外卖平台提升算法透明度并完善骑手权益保障机制，形成政府监管与公众参与的治理闭环6。这些举措集中反映出，算法治理亟需从单一监管模式转向政产学研联动的多元共治新范式。 算法技术的赋能效应与风险挑战要求以包容审慎的视角看待其发展演进，并深入探讨实际应用中的多重挑战。一是平台收益与用户权益之间的平衡问题。算法在追求效率最大化的过程中，若缺乏伦理与合规引导，可能带来隐私泄露、“信息茧房”等社会议题，与社会倡导的价值理念相冲突。二是新兴生产力的快速成长与既有制度、社会结构之间的适配问题。算法作为数字时代的重要生产要素，在催生新业态、提升经济效率的同时，也推动传统产业组织方式、劳动关系和市场格局的重塑，对劳动者权益保护与社会治理范式提出了新的要求。三是产业治理能力与公众信任之间的感知差距。虽然众多平台企业已建立算法备案、风险评估和伦理审查机制，但公众对算法透明度与可解释性的认知仍在形成中，信息沟通与社会信任的建设仍是一项长期工程。 （三）构建面向产业的算法治理路径 全面应对效率与公平、新旧生产关系和公众信任感知差距三组挑战，是构建高质量算法治理体系的重要前提。本报告基于产业视角，将算法治理定义为：产业主体通过技术优化、规则完善与平台治理等方式，构建从合规驱动迈向用户驱动的可信赖算法实践体系。这一定义强调产业界在算法治理中的主体作用，聚焦于深度学习驱动的主流平台应用算法，包括个性化推送、排序精选、检索过滤、调度决策以及生成合成五类典型算法，旨在实现效率与公平、创新与安全的动态平衡，促进新兴生产力与社会秩序的良性互动，并逐步增强公众对算法技术的信任与理解。 构建面向产业的可信赖算法治理路径，需协同推进算法规制、算法透视与算法实践。算法规制强调制度规范促进算法产业发展，聚焦我国、美国与欧盟等主要经济体，通过完善立法、规则与监管体系，保障算法开发与应用的安全、透明与可控。算法透视关注平台、用户与生态的协同共生，通过厘清算法在技术层、规则层与平台层的治理逻辑，探索技术创新与价值向善的平衡。算法实践侧重产业主体的责任承担与主动治理，通过强化公开透明、信息保护、公平公正与内容保障，构建可信赖的算法治理产业自律框架。三大维度相互耦合，共同构成面向产业的可信赖算法治理路径，为数字经济高质量发展提供可持续治理方案。 二、算法规制：全球算法治理的监管举措 （一）我国统筹发展和安全，开展全生命周期治理 我国注重通过制度设计保障多元权益，以备案、评估为抓手，形成事前、事中、事后全覆盖的管理机制。 权益保障层面，一是强化个人信息保护。2021年11月生效的《中华人民共和国个人信息保护法》规定，自动化决策应确保透明、公正，防止对个人