走向更可信的全球协同：视听媒体人工智能治理之道

引⾔ 习近平总书记深刻指出：“⼈⼯智能带来前所未有发展机遇，也带来前所未遇⻛险挑战。要把握⼈⼯智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应⽤规范、伦理准则，构建技术监测、⻛险预警、应急响应体系，确保⼈⼯智能安全、可靠、可控。”这⼀重要论述为视听媒体统筹⼈⼯智能发展与安全指明了根本⽅向。 当前，⽣成式⼈⼯智能正推动视听媒体加快进⼊⼈机协同的新⽣产范式。技术创新在拓展内容⽣产和传播边界的同时，也带来了新的系统性⻛险：深度伪造削弱信息真实性基础，算法偏差放⼤价值偏移，智能侵权加剧版权治理压⼒，虚假信息借社交算法快速扩散，呈现传播速度快、反转频次⾼、影响范围⼴等特征，对社会信任机制和传播秩序构成持续挑战。与之相⽐，传统以“事后补救、分散应对、⼈⼯主导”为特征的治理模式，已难以完全适应⼈⼯智能⻛险跨平台、跨地域、快速迭代的发展态势。 ⽴⾜智能化转型关键阶段，构建可信可控的⼈⼯智能⽣态正成为全球媒体普遍关注的重要议题。本报告聚焦视听媒体⼈⼯智能⻛险的结构性演变，在梳理全球治理趋势与典型 实践的基础上，探讨适⽤于视听媒体⾏业的⼈⼯智能治理路径，为⾏业的治理与发展提供参考。 ⼀、⻛险研判：视听媒体⼈⼯智能安全的主要挑战与传导逻辑 ⽣成式⼈⼯智能在视听领域的规模化应⽤，使技术原⽣缺陷、应⽤⾏为失范、治理体系滞后等⻛险相互交织，并⼴泛影响内容⽣产、模型训练、传播分发与审核监管等环节。随着多模态⼤模型⽇益普及，相关⻛险正由单点问题向跨层级、跨领域问题演化，成为全球视听媒体治理⾯临的重要挑战。 （⼀）四⼤结构性⻛险：内容安全、算法伦理、版权秩序与舆论⽣态 1.内容真实性⻛险：信任基础⾯临挑战 视听媒体的重要价值之⼀，建⽴在内容真实性和可验证性之上。随着深度伪造技术持续降低应⽤⻔槛，⾮专业⽤户⼈员也能够借助开源⼯具或在线平台，以较低成本⽣成⾼仿真视⾳频内容。⼀些恶意⼯具还通过算法处理削弱数字指纹等识别痕迹，使既有检测⼿段⾯临更⼤挑战，进⽽加剧⽣成能⼒与识别能⼒之间的不完全匹配问题。这⼀变化削弱了“眼⻅为实”的传统认知基础，也增加了虚假内容规模化传播的⻛险。 更值得注意的是，深度伪造已从个体名誉侵害扩展⾄虚构突发事件、伪造公众⾔论等更具公共影响⼒的领域，可能 在短时间内引发舆论波动与社会误判。2025年戛纳狮⼦国际创意节上，巴⻄DM9⼴告公司因使⽤⼈⼯智能篡改素材虚构项⽬成果⽽被撤销多项⼤奖，这⼀事件表明，⼈⼯智能合成内容对真实性的冲击已由信息传播领域扩展⾄更多产业，给⾏业信任带来新的考验。 2.算法价值偏移⻛险：社会共识形成机制受到影响 算法偏差往往源于训练数据中的既有偏⻅与模型设计中的结构性限制。海量视听数据中蕴含的性别、地域、⽂化等刻板印象，可能在模型训练中被吸收并固化。与此同时，以流量为⽬标的推荐算法，容易陷⼊“偏⻅固化—内容偏激—流量放⼤”的恶性循环，增加情绪化、极端化内容传播的可能性。2026年初，社交平台X集成的⼈⼯智能机器⼈Grok被诱导⽣成公众⼈物⾮⾃愿暴露图像，并引发监管介⼊，这⼀事件显示出⽣成式模型在安全约束不⾜时可能带来的现实⻛险。此外，算法推荐的圈层化分发逻辑，还可能强化信息茧房效应，扩⼤不同群体之间的认知隔阂，进⽽给社会共识的形成和⽂化认同的维系带来⻓期影响。 3.版权治理⻛险：传统规则体系承压加剧 版权是视听媒体的核⼼资产之⼀，⽽⽣成式⼈⼯智能正在推动侵权形态从直接复制向变形改写、从显性传播向隐蔽衍⽣延伸。技术层⾯，⼈⼯智能通过混剪、换脸、⻛格迁移等⽅式⽣成的“类原创”内容，在形式上更难被传统法律判定标准和监测技术准确识别，数字指纹、⽔印匹配等⽅法的适 ⽤性也受到⼀定影响，导致取证难度上升、维权成本增加。制度层⾯，多模态技术打通了⽂本、图像与视⾳频的边界，但全球在⼈⼯智能训练数据合规性、⽣成物版权归属⽅⾯的制度回应仍在完善过程中。法律规则的滞后和适⽤边界的不清晰，使侵权⻛险可能在模型训练、内容⽣成、传播分发等环节持续扩散，形成“⻔槛低、规模⼤、追责难”的治理困境。类似“黛⽟变拳击⼿”等案例反复出现，说明传统版权保护机制在⾯对⽣成式⼈⼯智能时⾯临新的适应性挑战，原创者合法权益的有效保障仍需进⼀步加强。 4.舆论传播⻛险：既有治理机制⾯临适配压⼒ ⼈⼯智能驱动的虚假信息通常具有多形态、批量化、⾼仿真等特征，能够针对不同平台的传播逻辑进⾏精准适配，并借助算法推荐实现快速扩散。相⽐之下，传统以⼈⼯核查和单向辟谣为主的治理机制，在响应速度、覆盖范围、持续触达等⽅⾯均⾯临压⼒，容易出现“真相还在穿鞋，谣⾔已跑遍世界”的情形。2026年3⽉，⼀段关于“以⾊列特拉维夫遭导弹袭击”的10秒视频在社交媒体上迅速传播，数⼩时内获得数百万观看量，后经事实核查证实为⼈⼯智能⽣成。该案例表明，在重⼤突发事件和国际冲突语境下，虚假视听内容可能对公众认知造成误导，并给跨国传播秩序带来⼲扰。 （⼆）⻛险传导：从个体权益到国家安全的连锁反应 ⼈⼯智能安全⻛险并⾮彼此孤⽴的单点问题，⽽往往呈现由微观个体权益受损、中观社会信任削弱到宏观国家安全 承压的连锁反应。前⼀层级⻛险若得不到及时处置，往往会增加更⾼层级⻛险发⽣和扩散的可能性。 1.个⼈层⾯：⻛险传导的起始端⼝ 在视听领域，⼈⼯智能滥⽤⾸先表现为对公⺠肖像权、声⾳权、隐私权、财产权等权益的直接侵害。深度伪造已被⽤于电信诈骗、虚假代⾔和名誉诋毁等场景。2025年，澳⼤利亚⻄澳⼤利亚州州⻓罗杰·库克的形象与语⾳被深度伪造，并⽤于虚假投资宣传，这⼀事件反映出相关诈骗⾏为的跨地域扩散趋势。与此同时，⼈⼯智能强⼤的数据关联和推断能⼒，也可能从脱敏数据中识别个⼈身份，导致隐私⻛险由⼀次性泄露转向持续性侵扰。 2.社会层⾯：信任危机的累积效应 当真实与合成之间的边界不断模糊，公众对视听内容的整体信任⽔平可能下降，进⽽影响媒体公信⼒和社会共识形成。2025年10⽉，美国福克斯新闻频道被曝引⽤多段社交媒体视频，称“SNAP（补充营养援助计划）受益⼈威胁在政府关⻔期间洗劫商店”，后被证明相关内容为⼈⼯智能⽣成。该事件不仅对其⾃身公信⼒造成影响，也进⼀步暴露出主流媒体在⼈⼯智能时代⾯临的内容审核压⼒与引导挑战。 3.国家层⾯：安全底线的跨域冲击 当⻛险突破个体和社会层⾯后，还可能进⼀步向国家安全领域外溢。在选举、重⼤突发事件或政策发布等关键节点，伪造视频可能对政治传播、舆论引导甚⾄社会稳定造成负⾯ 影响。在国家安全领域，⼈⼯智能也可能被⽤于情报误导、伪造军事信息等⾼⻛险⽤途。在国际舆论场中，跨语⾔、⾼仿真的⼈⼯智能内容正使传统信息博弈向更精准、更隐蔽的认知对抗演化，增加国家形象维护等领域治理的复杂性。⾯对这⼀跨层级、跨领域传导的⻛险态势，单⼀国家或单⼀平台的分散应对已难以完全胜任，推动全球视听媒体治理机制创新与协同合作显得更为必要。 ⼆、全球镜鉴：视听媒体⼈⼯智能安全治理的典型实践 围绕深度伪造、内容篡改、版权侵权等问题，全球视听媒体开展了⼀系列探索，⽬前可初步归纳为四类模式。 （⼀）技术标准驱动：以内容凭证提升可信溯源能⼒ 深度伪造治理的⼀个关键难点在于，普通受众往往难以判断眼前视⾳频是真实记录还是⼈⼯智能合成。传统的事后检测虽然重要，但常常处于被动追赶状态。以国际标准化组织（ISO）、内容来源与真实性联盟（C2PA）等为代表的治理路径，尝试从源头增强内容可验证性。 这⼀模式的关键，在于为⼈⼯智能⽣成内容和数字媒体内容嵌⼊可验证的来源信息，通过拍摄设备、编辑软件和⽣成模型等环节记录内容⽣成和编辑过程，使其在采集、制作、分发等环节具备更强的可追溯性。该路径尤其适⽤于新闻内容⽣产、视听产品制作、版权管理等对真实性要求较⾼的场景，其优势在于有助于提升源头认证能⼒，但也依赖跨⾏业、跨地区的标准协同与⼴泛采⽤。 （⼆）⽴法强监管：以法律规则明确安全边界 技术标准更多依赖⾏业采⽤和⽣态协作，在应对恶意诈骗、舆论操纵、版权侵犯等⾼⻛险⾏为时，法律规制仍然发挥着基础性作⽤。⽴法强监管模式正是通过设定清晰的法律责任和⾏为边界，对⾼⻛险⼈⼯智能应⽤进⾏分类治理和刚性约束。 近年来，中国相继出台《⽣成式⼈⼯智能服务管理暂⾏办法》《⼈⼯智能⽣成合成内容标识办法》等法律法规，发布《⼈⼯智能安全治理框架》《推动⼈⼯智能安全可靠可控发展⾏业倡议》等，持续在法治轨道上加强⼈⼯智能治理，推动构建以⼈为本、智能向善的治理框架，在加强监管、防范⻛险等⽅⾯，实现了⼈⼯智能总体健康有序发展。欧盟《⼈⼯智能法案》将深度伪造与⽣成式内容纳⼊重点监管对象，要求显著标识，并依据⻛险等级实施分类监管，并在版权治理⽅⾯强调训练数据应符合知识产权规则。 ⽴法强监管模式适⽤于⾯向公众的⽣成式⼈⼯智能服务、主流媒体平台及⾼⻛险内容应⽤场景，其优势在于约束⼒强、覆盖⾯⼴，有助于快速确⽴⾏业底线，但同时也⾯临⽴法节奏与技术迭代速度之间的适配问题。 （三）平台⾃治与⾏业共治：以⽣态协同强化治理能⼒ 在⽤户⽣成内容（UGC）占主导的平台⽣态中，仅靠政府直接监管往往成本较⾼、响应较慢。平台作为内容分发和管理的重要节点，承担着⼀线治理责任，⾏业协会则通过⾃ 律规范和标准引导补充治理能⼒，由此形成“平台主责、⾏业协同、政府兜底”的共治模式。这⼀模式通常包括：利⽤⼈⼯智能检测⼯具提升内容审核效率，应⽤⽔印和标识技术增强内容可辨识性，建⽴⽤户举报与快速处置机制。其适⽤场景主要包括短视频平台、社交媒体和各类⽤户⽣成内容视听社区，优势在于灵活、快速、可随技术变化动态调整，但同时也⾯临平台商业逻辑与公共利益之间的冲突，以及⾃律机制约束⼒有限等问题。 （四）数字主权防御：以国家安全为重要导向 视听内容安全不仅关乎信息治理，也与意识形态安全等国家⽂化安全密切相关。深度伪造和跨境虚假信息传播可能被⽤于“认知战”，对本⼟⽂化认同和政治传播秩序造成冲击。在这⼀背景下，将视听安全纳⼊国家安全框架，强化⾃主可控技术能⼒，成为数字主权防御模式的重要特征。其主要做法包括：建⽴⾃主可控的⼈⼯智能技术体系，打造⾼质量本⼟语料库，推动算法价值对⻬与本⼟⽂化嵌⼊，防范技术垄断与外部算法渗透；同时加强关键数据本地化管理，建⽴国家层⾯的内容监管与应急响应机制。该模式有助于增强信息传播安全保障能⼒，尤其适⽤于重要⼴播电视机构、公共传播系统和应急传播体系，但也需要在安全治理、信息流动和国际交流之间进⼀步寻求平衡。 从技术标准、法律制度、平台责任与主权安全，四种治理模式分别从不同维度回应视听媒体⼈⼯智能治理问题。随 着实践的推进，这些路径之间的界限正在消融，全球治理体系呈现更加明显的融合趋势。例如，中国在强调安全底线的同时，平台治理和⾏业协同机制不断完善；欧盟在推进⽴法监管的同时也在⽀持技术标准建设。在此背景下，全球视听媒体⼈⼯智能治理呈现出三⼤趋势： 第⼀，从被动检测迈向主动认证。治理重点从事后识别和处置逐步转向事前认证。数字⽔印、元数据签名、内容凭证等技术，正从辅助⼯具逐步发展为提升内容可信度的重要基础设施。“可验证媒体”正在成为⾏业重点关注的发展⽅向。 第⼆，从单兵作战升级为⽣态协同。跨平台、跨区域、跨语⾔的⼈⼯智能⻛险，使单⼀国家、平台或机构都难以独⽴应对。媒体机构、科技企业、研究组织和监管部⻔之间的协作正在增强，围绕⻛险信息共享、透明度机制建设和检测能⼒互通的合作⽇益重要。 第三，从技术⾄上回归价值本位。治理⽬标已不再局限于提⾼检测准确率，⽽是更加强调技术能⼒、伦理原则和制度安排之间的协同。“⼈类最终决策权”“透明可解释”“责任可追溯”等原则，正逐步成为⼈⼯智能治理讨论中的重要共识。其核⼼不仅在于控制⻛险，也在于修复信息环境中的信任机制。 三、总台实践：“战略─制度─技术─价值”协同的内嵌式治理创新 在全球⼈⼯智能治理不断演进的背景下，中央⼴播电视总台（以下简称“总台”）持续深化“5G+4K/8K+AI”战略布局，逐步形成“战略—制度—技术—价值”协同联动的治理框架。这⼀框架的⼀个重要特点在于，努⼒将安全要求