AI 时代负责任媒体的未来原则

WHITE PAPER JANUARY 2024 Contents 行业声音语录 3 导言 5 1 AI 时代负责任媒体的未来原则 6 原则 1采用创建优质内容的原则6 、可靠的信息 原则 2拥抱开放创新和负责任6 采用生成式 AI 原则 3 通过提高透明度赋予消费者权力 6 原则 4通过制定和采用加强问责制7 常见标准 原则 5 培养道德领导力和提高劳动力技能 7 2 媒介信息素养 8 3 前进的道路 9 资源 10 贡献者 11 尾注 12 免责声明 本文件由世界经济论坛发布，作为对某个项目、洞察领域或互动的贡献。文中所述的研究发现、解释和结论是世界经济论坛协助并认可的一个协作过程的结果，但其结果未必反映世界经济论坛的观点，也不一定代表其全体成员、合作伙伴或其他利益相关方的意见。 © 2024 世界经济论坛。所有权利保留。本出版物的任何部分均不得以任何形式或通过任何手段复制或转载，包括复印和录音，或通过任何信息存储和检索系统。 行业声音的语录 Jeanne Bourgault ， Internews 总裁兼首席执行官 ： 培养媒体素养技能、寻求高质量信息以及在线保护自己至关重要。媒体素养教育和建立丰富的媒体环境为公民提供了可靠的信息来源，使他们能够就自己的生活和各自国家的未来做出知情决策，同时强调拓展的重要性。不幸的是，如果高质量的信息未能通过多样化的电视、广播和数字频道广泛传播，教育最终将变得毫无意义。因此，必须将媒体素养与支持高质量、准确信息的努力相结合，以促进健康的信息环境的发展。 彭博董事长 Peter Grauer ： 彭博长期致力于将人类智慧与技术magic相结合，以提供更优质、更快捷的信息。这是我们人工智能方法的核心。如今，随着变革速度的加快，我们认为各行各业的领导者有必要就保护媒体信任的原则达成共识。 《华尔街日报》出版商道琼斯首席执行官 Almar Latour ： 新时代的轮廓正在形成，对可靠信息的需求前所未有的强烈。作为新闻、媒体、娱乐和体育领域的领导者，我们必须共同努力，确保高质量的内容和信息在人工智能时代仍然是优先事项。这正是道琼斯和《华尔街日报》使命的核心所在：我们为人们提供可靠的信息、数据和分析，帮助他们在日益复杂的世界中做出决策。这一套原则强调了保护并提升可靠新闻的价值是许多关键行业参与者当前议程上的首要任务。 作为一家创意公司，我们相信康德纳斯特认为高质量的内容是世界上的一种积极力量，并且通过拥抱新技术（包括AI），我们可以进一步增强这一点。为了实现AI所能带来的好处，开发AI系统的公司在使用内容进行模型训练时付费是至关重要的。我们也深知，构建一个正面的内容生态系统的关键在于信任。这就是为什么我们参与了这些AI原则，也是为什么我们继续与世界各地的合作伙伴合作，以确保人们能够信任他们接收到的内容的真实性和完整性。 Karthik Rao ， 尼尔森首席执行官 ： 受众测量在构建媒体生态系统中的信任和价值方面发挥着关键作用，确保市场参与各方的透明度和责任感。人工智能在测量领域的作用至关重要，因为可靠性是至关重要的。负责任的人工智能的发展和应用应基于实证数据来源，用于训练基础模型，并在整个价值链中部署人工智能工具，以提供操作透明度和准确性保障。同时，利用人工智能数据源的各方也必须尊重辛勤工作的数据创造者和创新者的知识产权。 可信的新闻报道比以往任何时候都更为重要。通过聚焦推动AI创新的个人，并探讨其对人们生活方式的影响，TIME 致力于成为全球读者值得信赖的指导者——正如我们过去一个世纪所做的那样，以更好地理解这一新兴技术。随着AI对行业的彻底变革，媒体公司有责任维护透明度和准确性的标准，并为全球读者提供高质量新闻的访问权限。 Stefan von Holtzbrinck ， Holtzbrinck 出版集团首席执行官 ： 它是新闻品牌的本质，也是其品牌灵魂所在，只有记者们才能带来根本性的差异。人们首先信任的是人。对于我们的记者而言，可见性、透明度、责任感、可接近性和对最高标准的承诺将比以往任何时候都更加成为成功的关键，并将高质量的 journalism 与仅仅收集信息并将其加工成合成内容区分开来。那些投资于最佳记者的人将取得成功，机器只会作为他们的支持存在。 独立媒体的作用从未像现在这样重要。合成内容将呈指数级增加，对媒体机构来说既是挑战也是机遇。在这种情况下，透明度至关重要。 Hubert Burda Media 首席执行官 Martin Weiss ： 纯粹由AI生成的“内容”与新闻 journalism 存在本质差异。现实与虚构之间的界限正在变得越来越模糊。作为回应，读者和用户将寻求他们真正信任的品牌和公司。我们相信，人类对新闻的真实性与质量负责是赢得消费者信任的基础。我们已承担起对读者的道德和法律责任，并致力于在我们的市场中定位为制作负责任且可问责的人工智能驱动新闻的“无假新闻”玩家。 Introduction 高质量的内容和可信赖的信息对社会和民主国家起着举足轻重的作用。 个人和公民通过各种格式的内容进行阅读、聆听、观看和体验，从报纸和书籍到广告和社会媒体。这些内容提供信息、教育，促进个人和集体叙事，有助于价值观的形成，并影响行为以及人们与他人的互动方式。必须确保可信且可靠的信息来源成为强大、健康、多样且财务可持续的媒体生态系统的基础。 对新闻产生浓厚兴趣的人数 ， 以及选择性新闻回避的增加。4除了该行业面临的经济挑战外， 这些趋势还呈现出令人不安的局面。 在这种背景下，年轻一代与传统媒体品牌的关系较为松散，会在多个来源寻找信息，并且特别是对于Z世代而言，会定期进行事实核查。5 人们信任商业胜过信任媒体 ，6媒体环境中，品牌发挥着基础性作用，它们直接塑造叙事内容，并通过营销投资间接支持高质量内容和可靠信息。 新闻提供关于世界外部演变的信息，包括最重要的事实和问题，以及任何值得关注的事件。新闻的核心价值在于赋予知情者做出关于其生活、社区、社会和政府的最佳决策的能力，最终推动对世界产生积极影响的变化。 生成性人工智能（GenAI）有潜力重塑该行业，但其采用需要仔细评估所有风险和机遇。 现在比以往任何时候都更加重要的是提高对新闻自由重要性的认识，并团结行业共同对抗虚假信息。过去十年间，与新闻自由和信息可信度相关的全球新闻报道增加了40%。1 在媒体分裂、两极分化和对虚假信息的担忧的推动下 ， 信任度较低 ， 并进一步下降。 互联网的出现和 Web 2.0 的出现7内容生产、分发和消费已 democratized，涉及各种参与者，包括媒体机构、娱乐公司、品牌和广告 agency、个人及意见领袖等。 Across 市场，总体而言，人们对新闻的信任度较低且正在进一步下降，2023年仅有40%的人口大多数时间信任新闻，较过去一年下降了2%。2 生成人工智能的指数级发展有潜力进一步转型该行业，据估计，到2026年，网络上将有90%的信息将是合成生成的。8 生成式AI在本质上与人类智能存在显著差异，目前缺乏对上下文的理解、视觉识别能力以及访问人类感官的能力。它通过在大量训练数据中识别模式来运作，本质上是在“猜测”下一个单词。9因此，目前在准确性和偏见方面存在限制，这导致了 misinformation 和 disinformation 以前所未有的速度和规模被创造和传播的风险。 媒体碎片化与内容创作和分发量的增加相结合，使得消费者在初次接触时难以辨别什么是可信的。 polarization 在全球社会中日益加剧，受到生活成本危机导致的经济焦虑、虚假信息的传播以及收入不平等加剧等众多挑战的推动，从而进一步降低了信任度。3 concerns关于虚假信息的担忧正在加剧，全球超过一半的人口担心假新闻。同时，也出现了下降趋势， GenAI 带来机遇但也伴随着风险，整个社会需要共同努力确保其负责任地被采纳。 1AI 时代负责任媒体未来的原则 采用创建优质内容和可信信息的原则 原则 1 媒体行业的参与者已经采纳了共同的原则以确保高质量的内容和可靠的信息。这些原则在生成式人工智能（GenAI）的出现下不应发生变化： 问责制 ： 期望内容创作者对他们的工作和行为负责 ， 确保道德报告。 广泛采纳的新闻从业守则包括媒体 outlets 采纳的额外原则，如编辑独立性和公正性/公平性等。 - 真实性和准确性 ： 报告准确和真实的信息 ， 包括客观性和缺乏偏见。 透明度 ： 要求内容创作的透明度 ， 包括披露来源、更正和方法。 拥抱创新开放和负责任地采用生成式 AI 原则 2 生成式AI每天都在更多领域超越人类水平的表现。作为一种强大且增值的工具，它为行业加强高质量内容生产和新闻业提供了机会，但必须谨慎对待，评估所有风险和机遇。它有可能彻底改变整个内容生产流程以及内容消费方式。 – 培养新的商业机会：通过消费者参与和个性化方面的创新，实现更精细的内容本地化和定制化，从而创建量身定制的内容产品和用户体验。该技术能够大幅提高规模并实现精准覆盖，支持高质量内容的分发。有机会在新现实下重塑新闻业，通过产品和格式创新使高质量内容更具吸引力、互动性和参与性。 – 提高效率：通过在重复任务中节省时间来降低成本和提高效率，例如帮助编辑调整标题、创建摘要以及进行频道相关的文本调整，并自动化数字广告campaign。 通过提高透明度赋予消费者权力 原则 3 消费者将需要导航一个更加复杂的信息生态系统，在初步 glance 时，生成式人工智能（GenAI）内容往往难以与非合成内容区分开来。在不具备辨别内容来源、类型和质量能力的情况下，消费者将面临挑战。 在生成式人工智能（GenAI）发展的背景下，内容生产中的质量评估——包括来源核实和质量管理工作——变得尤为重要。 应当采用并实施相关流程，以赋能消费者，并与现有的开放互操作标准保持一致。此类工具和流程应清晰传达内容生成的相关信息（例如，明确内容是否由人类生成），同时认可并尊重内容创作者的知识产权（IP）。这一过程应基于共同理解的共享原则，并考虑所使用的生成性人工智能工具是否符合这些原则。 消费者可能会不知所措 ， 导致信任的进一步侵蚀。 媒体行业的参与者应提高他们所采用原则的意识，并承诺对GenAI及内容来源的使用保持透明。 观众应该能够轻松直观地验证他们消费的内容的真实性。内容标记解决方案，如水印或来源认证。 通过制定和采用共同标准加强问责制 原则 4 和监控。在适用的情况下 ， 应利用现有的开放互操作标准。 共同定义并实施符合原则的标准，包括信息可追溯的方法。 培养道德领导力和提高劳动力技能 原则 5 伦理领导力和组织文化在构建健康可信的生态系统中发挥着基础性作用。组织需要赋能并提升员工技能，确保其具备 对GenAI技术有足够的理解。他们应采用相关指导原则；例如，通过制定跨不同职能和业务领域采用GenAI的原则。 图像信用 ：Tero Vesalainen@ Gettyimages 媒体信息素养 提升有效的媒体信息素养对于构建社会对虚假信息和误导信息的抵御能力至关重要。随着人工智能技术的迅速发展，人们在线获取和消费信息的方式不断变化，因此让人们能够批判性地评估信息的重要性也变得越来越重要。 媒体、社交媒体和技术产业、政府和民间社会，但必须更加广泛，覆盖全球经济的所有领域。这将确保各个年龄段的公民都能获得资源，并能够培养必要的技能以明智地导航和消费信息。毕竟，辨别优质来源并防止操纵的能力是健康安全网络环境的基础组成部分，能够促进亲社会的在线行为。 有必要采取全社会的整体方法来提高媒体信息素养，以应对人们面临的变革规模。这样的努力包括 图片来源 ： Pekic @ Gettyimages 前进的道路 媒体行业热衷于与开发内容创作和分发相关的人工智能模型及人工智能驱动的应用程序的企业进行建设性的多方对话和合作，