加拿大人工智能：开发和使用人工智能的法律指南

人工智能的开发与使用法律指南 目录 引言 人工智能（AI）正在改变我们周围的世界。曾经看似科幻的事物，正越来越多地成为我们日常生活的一部分。从生成复杂问题的答案，到提升医疗保健服务的提供，以及介于两者之间的一切，AI正在深刻地改变我们的工作方式和生活模式，同时为创新、提高生产力和经济增长创造了前所未有的机遇。然而，随着AI的变革潜力而来的是一系列复杂的法律和监管挑战，AI工具的开发者和使用者必须谨慎应对。 本指南旨在为参与人工智能系统开发、部署和使用的组织及个人提供一份实用、面向商业的行动路线图。它关注人工智能生态系统中出现的多方面法律和运营问题，提供见解和可操作的策略，以降低风险、实现合规并培养对人工智能技术的信任。通过聚焦现实世界的应用和具体场景——例如就业、医疗保健、资本市场、法律服务以及公共部门——本指南旨在为人工智能的开发者和使用者配备必要的知识和工具，使其在快速变化的技术环境中做出明智的决策。 该指南中解决的关键问题 本指南探讨了一系列对人工智能的负责任开发和利用至关重要的议题，包括： • 人工智能监管和标准：理解新兴的监管框架、行业标准以及最佳实践，以确保合规并促进问责制。 • 版权：解决围绕人工智能生成作品的所有权以及使用公开可用数据训练模型的问题。 • 隐私：应对隐私法律，重点关注收集和使用个人信息、数据最小化以及隐私影响评估的法律依据。 • 人权考量：确保人工智能系统防止偏见和歧视，并促进透明度和问责制。 • 侵权责任和风险管理：评估与人工智能错误、失败和损害相关的责任风险，以及实施减轻风险暴露的策略。 • 反垄断和竞争法：评估人工智能技术对竞争的影响，包括关于价格固定、勾结和其他反竞争行为的问题。 • 商业合同：起草解决人工智能特定问题的合同，例如知识产权、监管合规和风险分配。 上下文特定指导 随着人工智能带来的挑战和机遇在不同行业和领域而有所不同，本指南旨在为关键应用领域提供定制化的见解： • 就业：管理人工智能在招聘、绩效评估和工作场所监控中的应用。 • 医疗保健：利用人工智能提供医疗保健以及开发和部署医疗设备。 • 资本市场：运用人工智能进行算法交易和风险评估。 • 法律服务：部署人工智能以提升法律服务交付，同时解决职业责任、特权和保密问题。 • 公共部门：在政府服务交付中实施人工智能，包括通过部署自动决策。 一种实用、前瞻性的方法 本指南并非仅仅是对人工智能相关问题的理论探讨。相反，它是一个旨在帮助组织和个人应对人工智能开发和使用复杂性的实用工具。无论您是人工智能系统的开发者、公司内部律师，还是希望将人工智能整合到您运营中的领导者，本指南都提供了丰富的见解，以帮助您应对人工智能的各种法律和监管挑战，同时释放人工智能的全部潜力。 加拿大人工智能概述 需要了解的事情 • 加拿大长期以来一直处于人工智能发展的前沿，并被公认为该领域的全球领导者。杰弗里·辛顿（Geoffrey Hinton）、约书亚·本吉奥（Yoshua Bengio）和扬·勒昆（Yann LeCun）——被誉为“人工智能之父”——在加拿大的开创性工作为许多现代人工智能创新奠定了基础，包括人工神经网络、深度学习和强化学习。加拿大在全球人工智能研究方面持续排名靠前，始终位居全球人工智能指数（Global AI Index）第四名。 • 加拿大人工智能战略和加拿大主权人工智能计算战略，于2024年发布，强调了加拿大促进国内人工智能创新和发展的承诺。加拿大人工智能安全研究所也于2024年启动，加强了加拿大对人工智能安全发展和部署的承诺。 • 虽然加拿大致力于培养世界领先的AI生态系统创造了重大机遇，但在加拿大开发、分发或部署AI系统时，理解加拿大的规范、标准和监管框架至关重要。 待办事项 • 在加拿大范围内，对人工智能（AI）形成高层次的了解。 • 评估参与加拿大人工智能市场的机遇和风险，包括与数据隐私、知识产权保护、歧视和产品责任相关的问题。 • 制定满足责任监管新标准的治理计划人工智能和确保符合加拿大的采购法律要求人工智能的采纳、发展和部署。 • 与加拿大法律和行业专家合作以应对地域性特定问题实现您组织目标的考虑因素。 有用资源 • “加拿大人工智能总体战略,” 创新、科学和经济发展加拿大，2024年12月 • “加拿大主权人工智能计算战略,” 创新科学和经济发展加拿大, 2025年5月 •“加拿大启动加拿大人工智能安全研究所，”创新，科学和加拿大经济发展部，2024年11月12日 •“奥斯勒AI系列：关于这项技术、常见和新兴应用、机遇的入门指南和挑战,” 由奥斯勒主持的线上研讨会，2023年3月7日 加拿大对人工智能的监管 需要了解的事情 • 加拿大没有设定人工智能模型和系统通用监管框架的法律。包含加拿大提议的法案人工智能和数据法案(AIDA)于2025年1月6日议会休会时，在议会程序册上死亡。 • 创新科学和经济发展部发布了一份适用于具有高级功能的生成式人工智能系统的自愿行为准则，这些高级功能使它们能够适应不同环境中的各种用途。成为该准则签署人的高级生成式系统开发者和管理者就问责制、安全、公平与公平性、透明度、人类监督和监控，以及有效性和鲁棒性做出了承诺。 • 存在多项通用法律，规范着人工智能模型和系统的开发与使用中的具体要素。相关法律包括： ⸰联邦和省级隐私法，这些法律监管在训练人工智能模型和生成输出的背景下收集、使用和披露个人信息。魁北克的隐私法包括适用于自动化决策系统的额外规则 ⸰与训练数据集的生成、人工智能模型的训练以及模型输出的生成相关的版权法 ⸰联邦和省级人权法律，禁止在特定情境（包括就业和提供商品、服务、设施和住所）中，基于列举的事由（包括种族、肤色和性别）进行歧视 ⸰侵权法（以及魁北克民法典中的类似规定），这些法律规定组织或个人对其疏忽造成的损害负责，包括他们创建或部署的产品。其他可能相关的侵权行为包括诽谤、虚假陈述、故意造成精神痛苦、使他人置于虚假境地，以及未经同意传播私密图像 ⸰反垄断法，该法规范可能防止或限制竞争的协议、行为和交易，鉴于人工智能可能促进反竞争行为（如串通和虚假营销）的潜力，已被认定为关键关注领域。 ⸰就业法，它规范了人工智能在招聘、监控、绩效评估和终止等就业环境中的使用 • 涉及特定领域的有关人工智能模型和系统使用的要求也同样存在，包括： ⸰金融服务（例如，金融机构监管局长办公室关于模型使用的指南） ⸰资本市场（例如，加拿大证券的员工通知和咨询） ⸰⸰运输（例如，适用于自动驾驶测试和使用的规章）道路上运行的车辆）法律服务（例如，省级律师协会发布且适用于使用律师生成的AI)⸰公共部门实体（例如，关于联邦机构使用生成式人工智能的指南） 待办事项 • 确定所有可能适用于您的 AI 模型或系统开发或使用的现有法律和监管指南。 • 监测联邦、省和市级政府立法进展，以识别可能适用于您活动的监管要求。 • 监测监管机构的指南、指令和决定，以识别规范 AI 模型或系统开发或使用的规则。 • 考虑其他司法管辖区的法律（例如欧盟的人工智能法案) 可应用于您的 AI 相关活动。 有用资源 • “负责任开发与管理高级生成式人工智能系统的自愿行为准则，“创新、科学和经济发展加拿大，2023年9月•”中小企业的人工智能伦理设计与使用,”数字治理委员会，CAN/DGSI 101:2025 • “人工智能与竞争——讨论文件加拿大竞争管理局，2024年3月• “关于人工智能与竞争的咨询：我们听到了什么,”加拿大竞争局，2025年1月27日 人工智能标准 需要了解的事情 • 在缺乏立法指导的情况下，标准对于指导人工智能的负责任开发、部署和使用至关重要。 • 标准制定机构正在迅速制定各种适用于人工智能的标准。其中最突出的包括： ⸰ISO/IEC 42001– 信息技术 — 人工智能 — 管理体系，人工智能管理体系的第一国际标准。 • ISO 42001 为嵌入组织中的负责任人工智能实践提供了一系列控制措施。 ⸰ISO/IEC 23894– 信息技术 — 人工智能 — 风险管理指南，一个用于管理人工智能风险的国际标准。 • ISO 23894 – 信息技术 — 人工智能 — 风险管理指南 — 支持基于生命周期的风险评估和风险沟通策略。 ⸰NIST人工智能风险管理框架1.0[PDF] – 美国国家标准与技术研究院（NIST）发布的人工智能风险管理框架，是一个用于管理人工智能全生命周期风险的框架。 • NIST人工智能风险管理框架 playbook 描述了为实现在风险管理框架中概述的结果而采取的行动。 • 加拿大政府的《负责任地开发和高级生成式人工智能系统管理自愿行为准则》，于2023年10月发布并于2025年扩展，鼓励组织承诺安全、透明、问责、公平和人类监督等关键原则。 ⸰行为自愿准则区分了开发先进生成式人工智能系统的组织和那些管理或部署它们的组织，并对每一类提出了不同的期望和承诺。 ⸰2025年3月，联邦政府发布了《人工智能系统管理人员指南》，为实施《自愿准则》提供了一个有用的实用工具。 待办事项 • 了解标准的内容以及标准的哪些部分适用于您的特定人工智能开发和使用。 • 应考虑遵循领先的国际人工智能标准在政策制定和有效、负责任的人工智能发展与部署的合同中所起的作用。 • 在签订和采购人工智能工具时，考虑利用这些标准来创建围绕人工智能有效性和负责任部署的义务。 • 考虑是否遵循、采纳或加入加拿大政府的《人工智能行为准则》。 • 在政策、合同和采购要求中加入灵活性，以考虑不断发展的标准。 有用资源 • 国际标准： ⸰ISO/IEC 42001 – 人工智能管理系统⸰ISO/IEC 23894 – 人工智能风险管理⸰NIST人工智能风险管理框架（AI RMF 1.0） • 加拿大框架和指南： ⸰中小型组织的人工智能伦理设计与使用，CIO战略委员会，CAN/DGSI 101:2025⸰生成式人工智能自愿行为准则⸰人工智能系统管理人员指南（2025）• 评论和指导：⸰“ISO/IEC 42001在人工智能治理中的作用,” 奥斯勒，2024年7月10日 应用与符合外国法律 需要了解的事情 • 各国对人工智能的监管日益加强。对于全球运营的公司来说，跨境合规至关重要，尤其是在人工智能系统可能被不同地分类（例如，在欧盟被列为“高风险”，但在加拿大则不是）。 • 欧盟的人工智能法案是全世界首个综合人工智能法规。它引入了基于风险的框架。部分人工智能系统和实践被禁止，已识别的“高风险”人工智能系统和通用型人工智能模型适用具体规则，而某些被认为风险较低的人工智能系统需满足透明度要求。该法规将于 2025 年 2 月至 2026 年 8 月期间逐步实施。2025 年 7 月 10 日，欧盟委员会发布了《通用型实践准则》，这是一项自愿工具，旨在帮助通用型人工智能模型开发者遵守该法案。 • 美国的人工智能政策仍然分散。虽然存在一些特定领域的规则，但没有广泛适用的联邦人工智能法律。虽然一些州法律已经被制定，但国会正在考虑对州级人工智能立法实施十年的禁令。 • 加拿大一直是人工智能领域各种国际倡议的积极参与者，包括创建强调人权、问责制和互操作性的标准。这些倡议包括： ⸰经合组织的关于人工智能的理事会建议（该建议制定了首个针对人工智能的政府间标准，成员国将使用该标准来制定政策并创建一个跨司法管辖区的AI风险框架） ⸰联合国教科文组织关于人工智能伦理的建议（解决伦理问题） • 加拿大是欧洲理事会人工智能框架公约的创始签署国，该公约是人类历史上首份具有法律约束力的关于人工智能的国际条约，专注于人权、民主和法治。 待办事项 • 确定您的 AI 系统的开发、部署或销售地点，并判断您是否受到欧盟 AI 法、美国行业法或基于条约的义务等外国监管体系的影响。 • 在与第三方人工智能开发者或供应商签订合同时，应考虑