植德人工智能月报

人工智能月刊 （2024.8.1-2024.8.31） 植德律师事务所人工智能与数字经济行业委员会AIGC研究小组 导读 最新法律与监管动态 1.欧盟《人工智能法案》正式生效2.美国伊利诺伊州州长签署新法律以明确有关人工智能生成的儿童色情内容的规则3.澳大利亚通过《2024年刑法修正案（深度伪造色情材料）法案》4.美国加利福尼亚州立法机构通过《关于生成式人工智能：训练数据透明度法案》5.美国加利福尼亚州立法机构通过《前沿人工智能模型安全与创新法案》6.日本文化厅发布《就AI与著作权相关的确认清单和指引》7.欧盟委员会发布人工智能协议（AI Pact）草案8.德国联邦金融监管局（BaFin）发布人工智能金融服务提供商指南9.尼日利亚国家信息技术发展署发布《2024年国家人工智能战略》草案10.德国联邦信息安全办公室（BSI）发布关于人工智能系统透明度的白皮书11.美国联邦通信委员会（FCC）提议制定针对人工智能生成的自动呼叫和机器人文本的规则12.意大利隐私保护局（Garante）支持《人工智能政府法案草案》并提出重要建议13.香港金融管理局及数码港联合推出GenA.I.沙盒14.挪威数据保护机构（Datatilsynet）宣布其2024年针对人工智能的监管活动15.澳大利亚发布《在政府中负责任地使用人工智能的政策》16.香港金融管理局（HKMA）发布《有关使用生成式人工智能的消费者保障》 17.联合国教科文组织（UNESCO）启动公开咨询以指导人工智能治理18.英国人工智能安全研究所发布安全案例19.YouTube主播起诉OpenAI擅用其内容训练AI20.美国旧金山市检察官就人工智能生成色情内容提起全国首起诉讼21.YouTube主播起诉Nvidia擅用其内容训练AI22.作者们起诉Anthropic使用盗版书籍训练AI 最新行业动态 1.阿里国际发布全新B2B AI采购搜索引擎2.Meta正在与好莱坞明星进行洽谈以取得其声音授权3.巨人网络发布多智能体大模型AI原生游戏玩法4.ChatGPT发布AI生成内容来源识别解决方案5.X（Twitter）因AI训练侵犯数据隐私遭投诉6.智谱开源清影模型CogVideoX7.阿里云推出首个域名AI大模型应用8.广州互联网协会联合网易易盾发布《生成式人工智能服务安全合规指引》9.Meta和环球音乐集团（UMG）签署新的许可协议以解决AI音乐问题10.昆仑万维推出全球首个AI流媒体音乐平台Melodio11.百度文库全新产品“橙篇”正式上线APP端12.昆仑万维推出全球首款AI短剧平台SkyReels13.科大讯飞更新星火语音大模型，推出星火极速超拟人交互功能14.腾讯优图发布开源多模态大模型VITA15.OpenAI推出对GPT-4o进行微调的定制版本16.XTransfer自研外贸金融大模型TradePilot成功落地17.中国首家人工智能标准化研究机构落地北京亦庄18.《生成式人工智能行业自律倡议》正式发布19.巴西国家数据保护局（ANPD）暂停对Meta的禁令，Mata可在特定条件下恢复使用个人数据训练人工智能20.Runway删除HuggingFace开源数据库中的开源内容 一、最新法律与监管动态 1.欧盟《人工智能法案》正式生效 发布日期：2024年8月1日 来源：欧盟委员会官网 链接： ⚫https://commission.europa.eu/news/ai-act-enters-force-2024-08-01_en 摘要： 2024年8月1日，欧盟《人工智能法案》（AI Act）生效。该法案旨在促进欧盟负责任地开发和部署人工智能。 《人工智能法案》基于对人工智能的前瞻性定义和基于风险的方法，在所有欧盟国家引入了统一的框架： 1)风险最小：大多数人工智能系统（如垃圾邮件过滤器和人工智能视频游戏）不受《人工智能法案》的约束，但公司可以自愿采用额外的行为准则。2)特定透明度风险：聊天机器人等系统必须清楚地告知用户他们正在与机器交互，某些人工智能生成的内容必须注明人工智能生成内容的标签。3)高风险：高风险的人工智能系统，例如基于人工智能的医疗软件或用于招聘的人工智能系统，必须遵守严格的要求，包括风险缓解系统、高质量的数据集、清晰的用户信息、人工监督等。4)不可接受的风险：例如，允许政府或公司进行“社会评分”的人工智能系统被视为对人的基本权利的明显威胁，因此被禁止。 近期，欧盟委员会（European Commission）就通用人工智能（GPAI）模型提供商的行为准则展开了磋商。该准则由《人工智能法案》规定，将涉及透明度、版权相关规则和风险管理等关键领域。在欧盟开展业务的GPAI提供商、企业、民间社会代表、权利持有人和学术专家均受邀提交其意见，这些意见将纳入委员会即将出台的GPAI模型行为准则草案。有关GPAI的规定将在《人工智能法案》生效后的12个月内生效。欧盟委员会预计将在2025年4月之前完成《行为准则》。 植德短评 《人工智能法案》的出台标志着全球对人工智能监管迈出了重要一步。该法案全面覆盖了人工智能的研发、部署和监管全流程，旨在确保人工智能的安全、可靠和道德使用，并保护欧盟公民的权益。 法案重点关注人工智能模型/系统的透明度和可解释性、公平性和非歧视性、个人数据隐私保护等方面的内容，并对违反法案相关义务的行为适用严格的处罚措施。对违反被禁止的人工智能应用程序的罚款可能高达全球年营业额 的7%，对违反其他义务的罚款最高可达3%，对提供错误信息的罚款最高可达1.5%。该法案中的所有条款将在法案生效后的两年内全面适用。 尽管法案已经对人工智能的治理进行了较为全面的规定，但相关治理措施如何在欧盟范围内落地还有待制定更加细化的实施细则。 2.美国伊利诺伊州州长签署新法律以明确有关人工智能生成的儿童色情内容的规则 发布日期：2024年8月9日来源：美国伊利诺伊州议会网站 链接： ⚫https://www.ilga.gov/legislation/BillStatus.asp?DocNum=4623&GAID=17&DocTypeID=HB&SessionID=112&GA=103 摘要： 2024年8月9日，美国伊利诺伊州州长JB Pritzker签署了一项法案，明确伊利诺伊州现有的儿童色情法适用于使用人工智能技术制作的图像和视频。 本法案禁止使用人工智能制作显示真实儿童或淫秽图像的儿童性虐待图片。它还禁止未经同意分发某些人工智能生成的色情图片。 3.澳大利亚通过《2024年刑法修正案（深度伪造色情材料）法案》 发布日期：2024年8月21日来源：澳大利亚议会网站 链接： ⚫https://www.aph.gov.au/Parliamentary_Business/Bills_LEGislation/Bills_Search_Results/Result?bId=r7205 摘要： 2024年8月21日，澳大利亚参议院、众议院两院通过《2024年刑法修正案（ 深 度 伪 造 色 情 材 料 ） 法 案 》 （Criminal Code Amendment (Deepfake SexualMaterial) Bill 2024）。 法案新增“使用通信服务传播未经同意的色情材料”的罪名，明确利用人工智能软件和应用程序生成虚假的色情内容，或者将受害者的面孔合成到色情材料上的行为，将面临严厉的刑事处罚。法案对分享未经同意的深度伪造色情内容的行为实施最高六年的监禁，若行为人还创建了这些未经同意分享的深度伪造内容，则将面临最高七年的监禁。 4.美国加利福尼亚州立法机构通过《关于生成式人工智能：训练数据透明度法案》 发布日期：2024年8月27日来源：美国加利福尼亚州立法网站 链接：⚫https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240AB2013 摘要： 2024年8月27日，美国加利福尼亚州立法机构通过《关于生成式人工智能：训练数据透明度法案》（Generative artificial intelligence: training data transparency），该法案将在加利福尼亚州州长签署后生效。 该法案规定，在2026年1月1日或之前，以及之后每次公开向加利福尼亚州人提供使用，无论使用条款是否包括补偿，对于在2022年1月1日或之后发布的生成式人工智能系统或服务，或对生成式人工智能系统或服务的重大修改，系统或服务的开发者必须在其互联网网站上发布文件，说明用于训练生成式人工智能系统或服务的数据，包括生成式人工智能系统或服务中使用的数据集的基本情况，包括： 1)数据集的来源或所有者；2)数据集如何促进人工智能系统或服务的目的；3)数据集是否包含受版权、商标或专利保护的数据，或者数据集是否完全属于公共领域；4)数据集是否由开发者购买或许可；5)数据集是否包含个人信息和聚合消费者信息；6)开发者是否对数据集进行了任何清洗、处理或其他修改；7)生成式人工智能系统或服务是否使用或持续使用合成数据生成。 该法案明确用于飞机操作的生成式人工智能系统或服务，或为国家安全、军事或国防目的开发的且仅提供给联邦实体的系统或服务，不受上述文件要求的约束。 该法案进一步澄清了“重大修改”的定义，即“生成式人工智能系统或服务的新版本、新发布或其他更新，这些更新在实质上改变了其功能或性能，包括重新训练或微调的结果”。 植德短评 《关于生成式人工智能：训练数据透明度法案》规定了极为严苛的透明度 义务，其要求所有向加州民众公开提供生成式AI系统和服务的公司必须在2026年1月1日前在其网站上发布有关用于训练此类AI系统和服务的透明度文件，文件中需包含数据来源、知识产权权属等多方面的内容。 软件联盟（The Software Alliance, BSA）于2024年8月28日公开表示该法案可能会要求公司披露商业机密或机密信息，还可能阻止公司使用更广泛的数据集训练AI系统。 在适用范围上，除人工智能系统或服务开发者外，对人工智能系统或服务进行实质性更新的公司也适用该披露义务。在适用时间上，透明度文件必须在向公众提供生成式AI系统或服务之前发布，并在对此类系统或服务进行实质性更新之前发布。此外，对于在2022年1月1日起在加州公开提供的生成式AI服务均适用本法案。 若该法案最终签署通过，将极大增加生成式人工智能开发者必须考虑的其他监管义务。 5.美国加利福尼亚州立法机构通过《前沿人工智能模型安全与创新法案》 发布日期：2024年8月29日来源：美国加利福尼亚州立法网站 链接： ⚫https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240SB1047 摘要： 2024年8月29日，美国加利福尼亚州立法机构通过1047号参议院法案，即《前沿人工智能模型安全与创新法案》（Safe and Secure Innovation for FrontierArtificial Intelligence Act），该法案将在加利福尼亚州州长签署后生效。 法案中规定人工智能安全事故被认为是“通过以下任何一种方式明显增加严重伤害发生风险的事件”： 1)前沿人工智能模型在未经用户请求的情况下自主从事相关行为；2)前沿人工智能模型的模型权重被盗、挪用、恶意使用、意外发布、未经授权的访问或逃逸；3)技术或行政控制的关键性失败，包括限制前沿人工智能模型的能力的控制；或4)未经授权使用前沿人工智能模型造成严重伤害。 本法案适用于2027年1月1日之前使用超过10^26次整数或浮点运算的计算能力训练的且成本超过1亿美元的AI模型；或2027年1月1日之前通过使用等 于或大于3倍10^25次整数或浮点运算