2023生成式人工智能对消费者的危害

应对生成式人工智能对消费者的危害 目录 高管总结 5 1 – 引言 6 1.1 生成式人工智能概述71.1.1 生成式人工智能模型的示例81.1.2 生成式人工智能演员链111.1.3 开源或闭源模型121.1.4 通用人工智能12 131.2 消费者应用 2 – 生成式人工智能的危害和挑战 14 2.1 生成式AI的结构性挑战 15 151717192.1.1 确定生成式AI的具体风险2.1.2 技术解决方案论2.1.3 大型科技公司手中集中权力2.1.4 不透明的系统及缺乏问责制 2.222操纵 2.2.1 错误和不准确输出22第二点二点二二人工智能模型的拟人化232.2.3 深伪技术和虚假信息252.2.4检测AI生成的内容272.2.5 广告中的生成式人工智能28 2.3 偏见、歧视和内容管理 29 2.3.1 训练数据偏差 2.3.2 内容监管 2.4 隐私与数据保护312.4.1 与用于模型训练的 数据集 相关的 隐私挑战312.4.2 与生成式内容相关的隐私挑战32 2.5 安全漏洞与欺诈 32 2.6 使用生成式AI，全部或部分地取代面向消费者的应用中的人类332.6.1 与结合人类和自动化决策相关的挑战33 2.7 环境影响 34 2.7.1 气候影响342.7.2 水足迹362.7.3 绿洗行为与对绿色人工智能的期望37 2.8 对劳动力的影响372.8.1劳工剥削与幽灵工作372.8.2 劳动力自动化与对工作的威胁38 2.9 知识产权 38 第 3 – 管规 40 3.1 数据保护法453.1.1 数据主体权利463.1.2关于ChatGPT的意大利数据保护局（DPA）的决定47 3.2 消费者法483.2.1 美国消费者法律体系49 3.350一般产品安全法 3.3.1 通用产品安全指令503.3.2 通用产品安全法规50 3.4 C5竞争法1内容审核513.5 3.6 人工智能法案草案 52 3.6.1 欧盟委员会的提案523.6.2 欧洲联盟理事会关于《欧洲单一航空区法案》的立场533.6.3 欧洲议会关于AIA的立场53《人工智能法案》必须保护消费者。3.6.454 3.7 负债543.7.1 产品责任指令54 3.7.2 修改后的产品责任指令553.7.3 资产负债表指令55 3.8 行业标准和指南 56 4 – 前进之路 57 4.159消费者权利原则，对于安全且负责任的AI至关重要。 4.2 政策建议604.2.1 对执法机构的呼吁与赋权604.2.2 决策者 - 战略措施614.2.3 新立法措施61 机器中的幽灵解决生成式AI的危害消费者挪威N消费者委员会 2023年6月 www.forbrukerradet.no/ai 设计：VonKommunikasjon 执行摘要 Ex 消费者面对的生成式人工智能服务爆炸式增长。这些应用可以用来生成与人工内容相似的综合文本、图像、声音或视频。随着生成式人工智能系统融入流行平台和工具，该技术的采用率预计将继续增长。同时，许多新兴挑战引发了关于如何确保生成式人工智能安全、可靠和公平的许多辩论。 第二章中，我们总结了各种当前和新兴的生成式AI的挑战、风险和危害。这包括与以下相关的挑战： 权力，透明度，和问责制。错误的或是不准确的输出，利用技术操纵或误导消费者，偏见与歧视隐私和个人完整性安全漏洞自动化人类任务环境影响劳动剥削。 本报告是这些讨论的贡献之一，旨在为政策制定者、立法者、执法机构以及其他相关实体提供一个稳健的起点，以确保生成式人工智能不会以消费者和人权为代价。我们无法确切知道技术在接下来的几个月和几年中会如何发展，但我们相信技术进步的方向应该在社会的前提下发生。因此，我们提出了一系列超越原则，这些原则可以帮助定义生成式人工智能系统的发展方向。s可按以人为本的方式开发和利用。 第三章概述了现有和即将出台的规则和法规，这些规则和法规可能适用于生成式人工智能系统的发展、部署和使用。这主要围绕欧盟立法，但也涉及美国正在进行的过程。 最终章节包含了许多关于如何解决生成性人工智能问题的建议。这包括： e W强烈敦促政府、执法机构和政策制定者立即行动，利用现有法律和框架来应对已识别的自动化系统造成的危害。s已经建立今天。新框架和安全措施应并行开发，但 消费者和社会不能等待几年，而技术正在被进行中。未进行适当的检查和平衡就推出。 执行现行法律法规确保执法机构有足够的资源。更强的消费者保护稳健的政府政策，新的立法措施强有力的义务涵盖生成式AI系统的开发和部署者。 本报告的第一章提供对生成式人工智能及其应用的解释，并伴随多个示例和插图。一个 1. 引言 消费者面对的人工智能系统以各种形式存在了几十年，用于个性化社交媒体、过滤电子邮件和推荐流媒体内容。 如何用它来散布虚假信息。活动性，操纵个人与社会，取代工作，以及挑战艺术家版权。 s内容，文本翻译，以及更多。其中一些目的可能是良性的和谨慎的，大多数人可能从未意识到他们正在与一个由人工智能驱动的系统互动。 关于如何控制或监管这些系统的讨论正在进行中，全球的政策制定者正试图与生成式AI的承诺和挑战进行接触。本报告通过对消费者角度最紧迫问题的分析，以及一系列可能的解决方案，为这些讨论做出贡献。p从法律、伦理和政治角度出发的解决方案和途径。虽然我们不假装拥有所有由生成式人工智能引发问题的答案，但我们相信，许多新出现的或正在进行中问题可以通过结合监管、执法以及旨在引导技术走向消费者和人类友好的具体政策来得到解决。 新一代的AI驱动的系统在面向消费者的应用中迅速接近，伴随着生成性人工智能（‘生成AI’）系统的大规模部署和采用。生成性人工智能是人工智能的一个子集，它能够生成类似人类的文本、图像、音频或视频等合成内容，这些内容可以与人类创造的内容非常相似。这些系统有望改变今天我们遇到的大多数用户界面和内容消费方式。 2022年11月，聊天机器人ChatGPT的原型被公之于众。该应用迅速获得了全球关注，成为发布后一个月内增长最快的数字服务。1在接下来的几个月中，其他用于生成（erating）的服务。 随着生成式人工智能的发展似乎以惊人的速度进行，本报告中的描述必须被视为一项新兴技术的快照。本报告撰写于2023年2月至5月之间，且不包括6月1日之后发表的任何新论文中的信息。 基因文本、图像、声音和视频迅速部署并迭代，引发了一轮针对生成式人工智能系统的军备竞赛。消费者获得了访问权限。根据这些内容生成器直接在网页界面中，而公司开始 将内容生成器嵌入到他们的应用程序和服务中。 挪威消费者委员会是一个由公共资金资助的、依赖性的组织。 在消费者组织，代表消费者利益。本报告由BEUC、VZBV的Miika Blinn、爱尔兰人权委员会的Kris Shrishak、AccessNow的Daniel Leufer、Jon Worth、MarijaSlavkovik和Anja alzmann共同撰写。S来自卑尔根大学 突然和广泛部署和采用生成性人工智能系统引发了关于该技术承诺和危险的公共讨论。辩论范围从如何使用生成性人工智能来提高劳动力效率到激发创造性等方面展开。 1.1 生成式人工智能概览 生成式AI模型通过分析大量信息来预测并生成句子中的下一个单词、图像特征等。这是通过检测训练数据中数据点之间的模式和关系来实现的，从而使得系统能够复制相似的图案以生成类似的内容，例如一篇写作、音乐等。合成或aravideoclip。此过程也可描述为从数据系统 生成式AI是一个广泛的术语，用来描述经过训练以生成新数据的算法模型，例如文本、图像和声音。尽管这些应用依赖于不同类型的输入数据，但它们背后的训练原理是相似的。高级生成式AI的出现可能得益于互联网上可用内容的巨大数量，以及——结合机器学习和计算能力的进步。p 中训练过的内容的复杂“混合”。换句话说，它们是预测模块。作为 1.1 生成式人工智能概览 在2022年秋季，随着由公司OpenAI（也是DALL-E的所有者和运营商）拥有的ChatGPT的公开发布，公司获得了动力。ChatGPT3可通过创建免费账户在线使用，而更强大的ChatGPT4模型则需支付每月订阅费。3 那些已训练来将现有内容中的数据点“连接起来”以生成合成内容。 生成内容是基于某些输入（或称为“提示”）概率性和随机生成的，这些提示通常由人类编写。因此，任何给定生成型人工智能模型的输出可能因每个提示模型的人而异，既可能类似于训练数据中的模式，也可能显得完全新颖。 2023年1月，微软宣布对ChatGPT进行重大投资，并推出了由该技术支持的新功能的必应搜索引擎。4微软已宣布，它打算将ChatGPT集成到其其他服务中，包括Microsoft Office应用套件，例如在Microsoft Teams会议中自动记录笔记。5 1.1.1 生成式人工智能模型的示例 存在多种生成式人工智能模型，包括能够通过生成新文本来响应文本的大型语言模型（LLM），以及能够生成多种类型输出或响应多种类型输入的多模态模型，例如当被提示时也能生成图像的聊天机器人。以下是对今天市场上最受欢迎的生成式人工智能模型的简要介绍，附有一些相关示例。 谷歌也开发了一个能够生成文本的LLM，名为LaMDA。在微软投资ChatGPT之后，谷歌推出了其搜索引擎的一个名为Bard的文本生成器，并推出了类似的功能。6谷歌也在计划在其Workplace产品中引入各种基于人工智能的功能，如起草和总结电子邮件，以及头脑风暴和撰写文档。applica7 1.1.1.1 文本生成器 文本生成器是一种生成式人工智能模型，它……根据预测分析生成文本段落can whicharebuiltonlargelanguagemodels.2这些模型通常在大量的数据上训练。 从互联网上收集的，包括教科书、论坛、新闻网站、社交媒体，等等。文本生成器可用于撰写文章、编程、聊天机器人和增强搜索引擎，以及其他诸多方面。在 y男性案例，文本生成器旨在生成基因文本似乎是由人类编写的，例如通过以下方式：使用第一人称视角生成文本、使用表情符号或编写表明其具有经历人类情感的能力的文本。某些文本生成器是多模态的，可以根据图像生成文本。 尽管文本生成器以某种形式存在了数年，例如一些作为打字文本消息的预测工具，关于该技术的讨论 关于生成式人工智能，ChatGPT消费者问题的诗歌。 可用于任务，如机器翻译、情感分析、hu-人机交互、校对和许多其他用途。 Midjourney通过聊天服务Discord提供。您可以加入官方的Midjourney Discord服务器，向Midjourney机器人“想象”基于各种提示的图片。例如，提示系统的个人可以输入“想象一位政治顾问在撰写关于生成式AI的论文时的超逼真照片，在……The bot responds in the chat with four Meta开发了基于科学文章和材料训练的LLM银河系，旨在“存储、结合并推理科学知识”。在2022年11月作为公开演示发布后，由于生成包含多个错误和偏见的文本，公开演示很快被移除。82023年2月，Metaverse发布了一款名为LLaMa（大型 语言模型Meta AI）的LLM。LLaMa是一个开源模型，最初通过一个访问申请过程发布给研究人员。2023年3月，该模型在一个公共信息板上泄露，意味着任何拥有相对强大计算机的人都可以下载、使用和调整该模型。9 开放式办公布局\". erated基因图片。虽然Midjourney在发布后的前几个月内免费试用，仅限于生成有限数量的图像，但自那时起，它已经转变为一个付费订阅服务。 该公司Midjourney Inc.拥有生成式AI模型，该模型生成图像并运行和控制托管在服务器上的模型。这意味着该公司可以限制访问、更改模型以及添加内容过滤器来控制模型