植德人工智能月报

人工智能月刊 （2024.11.1-2024.11.30） 植德律师事务所人工智能与数字经济行业委员会AIGC研究小组 导读 最新法律与监管动态 1.荷兰征集关于在工作场所或教育机构中使用情感识别AI系统禁令的适用意见2.联合国欧洲经济委员会（UNECE）监管合作与标准化政策工作组（WP.6）发布《人工智能嵌入式产品合规宣言》3.英国发布了面向AI招聘工具的数据保护指南文件4.美国纽约南区地方法院驳回了独立出版商Alternet和RawStory对OpenAI提起的版权诉讼5.德国版权组织DEMA对OpenAI在德国慕尼黑地区法院提起版权诉讼6.江苏省常熟市人民法院宣判国内“AIGC版权第二案”7.美国发布了《关键基础设施中人工智能的角色和责任框架》8.欧盟发布了《通用人工智能实践准则草案（第一稿）》9.美国马萨诸塞州法院批准了针对AI工具SafeRent集体诉讼的和解方案 最新行业动态 1.OpenAI发布ChatGPT网络搜索2.用于生成式人工智能的量子计算机问世3.麻省理工推出训练机器人的新方法4.英国推出标准化的人工智能安全验证数字平台5.港科大、中科大、港中文等机构联手推出GameGen-X模型6.Anthropic联合Palantir和AWS向美国国防用户提供AI技术7.Waymo推出自动驾驶人工智能模型8.百度在2024年百度世界大会上发布人工智能助理智能眼镜9.Instagram计划使用AI来捕捉谎报年龄的青少年用户10.ChatGPT允许访问底层沙盒操作系统和"游戏手册"数据11.最高法发布“法信法律基座大模型”研发成果12.微软推出带有代理协调和管理工具的AzureAIFoundry 一、最新法律与监管动态 1.荷兰征集关于在工作场所或教育机构中使用情感识别AI系统禁令的适用意见 发布日期：2024年10月31日 来源：荷兰数据保护局官网 链接：https://www.autoriteitpersoonsgegevens.nl/en/documents/call-for-input-on-prohibition-on-ai-systems-for-emotion-recognition-in-the-areas-of-workplace-or-education-institutions 摘要： 当地时间2024年10月31日，荷兰数据保护局（AP）就欧盟《人工智能法（AIAct）》（“《人工智能法》”）中第五条第一款（f）项禁令，“工作场所和教育机构中的情感识别”，向公众征求意见。这是荷兰数据保护局第二次就《人工智能法》中的禁令征求意见，公众的意见和反馈将被纳入荷兰后续对AI系统禁令的监管解释中。 本次荷兰数据保护局还就在工作场所或教育机构中使用AI系统进行情绪识别发表了初步意见，重点包括适用禁令的前提和禁令的构成要件。针对适用禁令的前提，荷兰数据保护局提醒企业注意，在判断相关系统是否构成“情感识别系统”之前，应当首先判断相关系统是否构成“AI系统”，这也是《人工智能法》的适用前提。同时，相关系统的提供方（例如开发者）、部署方、进口方、分发方以及其他运营方都属于禁令规制的客体。 对于禁令的构成要件，荷兰数据保护局提出了四个方面的积极要件：（1）系统用于对情感的推断和识别；（2）被推断和识别的是自然人的情绪或意图（显性的表情、手势和动作不属于情绪或意图的范畴）；（3）系统基于生物特征数据进行上述推断和识别（生物特征数据是指与自然人的物理、生理或行为特征相关的特定技术处理产生的个人数据，如面部图像或指纹数据）；（4）在工作场所或教育机构领域应用，例如，在招聘选拔或学校申请面试中使用AI系统进行情绪识别。此外，还提出一个豁免场景，即禁令不适用于为医疗或安全原因而设计、投入使用或使用的AI系统（例如，一个专门用于治疗的AI系统）。 植德短评 欧盟《人工智能法》第二章第五条第一款对“禁止的人工智能实践”进行了详细规定，其包括8类禁止性人工智能实践，“在工作场所和教育机构中进行情感识别的人工智能系统”是其中第（f）项。这一章将于《人工智能法》生效后的第6个月（即2025年2月2日）起实施。荷兰数据保护局对于本条禁令的拆解有助于推动禁令后续在荷兰的落地实施，也对公众理解《人工智能法》具体内容有借鉴意义。 2.联合国欧洲经济委员会（UNECE）监管合作与标准化政策工作组（WP.6）发布《人工智能嵌入式产品合规宣言》 发布日期：2024年11月4日 来源：联合国欧洲经济委员会官网 链接：https://unece.org/artificial-intelligence/news/unece-launches-declaration-products-embedded-ai-calling-global 摘要： 当地时间2024年11月4日，联合国欧洲经济委员会（UNECE）监管合作与标 准 化 政 策 工 作 组 （WP.6） 发 布 了 《 人 工 智 能 嵌 入 式 产 品 合 规 宣 言 》（Compliance of products with embedded artificial intelligence：Overarchingprinciplesanddeclarationtopromoteconvergenceofproductregulations，以下简称“宣言”），其旨在为各国政府提供一个自愿性的监管合作框架，以促进含有人工智能（AI）或其他数字技术的产品和服务的市场准入与监管一致性。 UNECEW.P.6项目负责人MarkusKrebsz指出，“（宣言）不仅促进了贸易和监管的一致性，还解决了关键的社会挑战，如可信度、隐私、网络安全和缩小全球数字鸿沟。该框架鼓励持续合规和分享最佳实践，以确保AI技术的安全和负责任的开发。 3.英国发布了面向AI招聘工具的数据保护指南文件() 发布日期：2024年11月6日 来源：英国信息保护办公室（ICO） 链接：https://ico.org.uk/action-weve-taken/audits-and-overview-reports/ai-tools-in-recruitment/ 摘要： 当地时间2024年11月6日，英国信息保护办公室（ICO）发布了面向AI招聘工具的数据保护指南文件，《关于招聘中应用AI——审计结果报告》（“AIinrecruitment-AuditOutcomesReport”）。ICO表示，在招聘流程中使用人工智能工具可以为雇主带来好处，但其使用也可能给人们及其隐私和信息权利带来风险。因此，在协商一致的基础上，ICO对开发或提供招聘中应用AI工具的组织开展审计，本次审计的招聘中应用AI功能主要包括寻找人才、评估分析和甄选三类。ICO表示，开展这项工作是对更广泛的人工智能生态系统进行上游监测的一部分，目的是了解人工智能招聘工具的开发和提供如何遵守英国数据保护法。 4.美国纽约南区地方法院驳回了独立出版商Alternet和RawStory对初创公司OpenAI提起的版权诉讼 发布日期：2024年11月7日 来源：WIRED 链接：https://www.wired.com/story/opena-alternet-raw-story-copyright-lawsuit-dmca-standing/ 摘要： 当地时间2024年11月7日，美国纽约南区地方法院驳回了独立出版商Alternet和RawStory对初创公司OpenAI提起的版权诉讼。Alternet和RawStory提起的诉讼主要基于《数字千年版权法》（DMCA），认为OpenAI的生成物在总结或“转述”原告作品时，未合理署名，构成删除数千篇新闻文章的作者姓名、作品使用条款和条件以及作品标题等"版权管理信息"（CMI），从而违反了法律，要求OpenAI对每项侵权行为赔偿不少于2500美元的法定赔偿金。OpenAI辩称，出版商没有提起诉讼的资格，因为他们未能提供证据证明ChatGPT曾使用其材料进行训练，因此无从评价训练是否违法。美国纽约南区法院的ColleenMcMahon法官认可了OpenAI的观点，以缺乏诉讼资格为由驳回了此案（dismissforlackofstanding），但允许原告修改诉讼请求再次起诉。RawStory创始人兼首席执行官JohnByrne表示其打算继续诉讼，并且声称下一步是请求法官允许他们提交修改后的诉状。 植德短评 “原告缺乏诉讼资格（lackofstanding）”是有关法院对案件是否享有管辖权的抗辩，来源于《美国宪法》第三条，即联邦法院只能审理"案件和争议"，原告有责任证明，除其他因素外，其遭受了实际伤害，如果不能证明，法院对案件就没有管辖权。被告可以在诉讼的任何时候提出这一抗辩。Alternet和RawStory在与OpenAI诉讼中没有证明ChatGPT曾使用其材料进行训练，即未能证明其权利遭受了实际伤害，因此被法院以缺乏诉讼资格驳回了起诉。 大模型训练数据的合法性一直是生成式人工智能著作权领域的热点问题。本案中虽然OpenAI取得了胜诉的结果，但本案实际上未开始对使用未经授权的数据进行模型训练以及生成物包含他人享有版权作品的违法性问题进行实质审查，所以对OpenAI正在进行的其他版权诉讼结果也不会产生实质影响。 5.德国版权组织DEMA对OpenAI在德国慕尼黑地区法院提起版权诉讼 发布日期：2024年11月13日 来源：DEMA官网 链接：https://www.gema.de/en/w/gema-files-lawsuit-against-openai 摘要： 当地时间2024年11月13日，德国版权组织GEMA对美国OpenAI,LLC和ChatGPT欧洲的运营商OpenAIIrelandLtd.向慕尼黑地区法院提起诉讼，指控ChatGPT未经许可复制歌词，当输入简单的提示时，ChatGPT就会重现原始歌词，显然是根据这些歌词进行过训练的，因此要求被告对侵害原告方版权承担赔偿责任。 GEMA是世界上最大的音乐作品作者协会之一，代表着德国约95,000名会员（作曲家、作词家、音乐出版商）以及全世界200多万权利人的版权。GEMA在9月底提出了一种人工智能生成许可模式。其目的是，当音乐创作者的作品被用于训练系统、生成新的人工智能歌曲或作为人工智能生成的音乐内容的一部分时，音乐创作者可以公平参与。本次的版权诉讼旨在厘清相关法律问题，促进前述许可模式的建立和运行。GEMA首席执行官TobiasHolzmüller博士对此表示，“任何想使用这些歌曲的人都必须获得许可，并公平地支付作者报酬”。 6.江苏省常熟市人民法院宣判国内“AIGC版权第二案” 发布日期：2024年11月14日 来源：知产库 链接：https://mp.weixin.qq.com/s/SmVaxXLKXwNvW_rn3YMrLw 摘要： 2024年11月14日，据网络媒体报道，江苏省常熟市人民法院对（2024）苏0581民初6697号案件进行了宣判，这一案件也被称之为国内AIGC版权第二个典型案例。该案中，原告林某通过Midjourney与Photoshop软件创作了一张名为《伴心》的平面美术作品，在国家版权局进行了作品登记，并利用自己的社交平台账号对外发布，被告在未经原告许可的情况下，将上述作品改编为实体装置，展示在常熟琴湖溪里花园城前，并在利用与原告作品高度相似的图片进行广告宣传，由此引发了侵权纠纷。 从原告披露的判决内容来看，法院认定“案涉《伴心》图以城市、水面、建筑、爱心及水中倒影为主要元素，在场景、环境、色彩、光影、角度及其排列组合等方面，体现了作者独特的选择与安排，具有独创性，构成著作权法意义上的美术作品，应受到著作权法保护”，从而认定被告利用与原告作品高度近似的图片进行宣传的行为侵害了原告作品的信息网络传播权，但未认定被告通过实地搭 建