人工智能治理问责制的国际协调

人工智能治理中的问责制国际协调 2024年12月9日在法国巴黎举行的第六届雅典人工智能与法治圆桌会议关键要点 乔治·戈尔，弗兰克·瑞安，特拉扎·祖姆帕洛娃，尼基·伊利亚迪斯 目录 政府 政府间组织 行业 民间社会个人 第六版之数字 开幕式场次1：绘制人工智能治理与问责图景场次2：建立治理问责制的关键挑战场次3：构建全球参与者间的更强问责制场次4：人工智能行动峰会咨询会议的关键要点闭幕致辞 关键洞察和考虑要点总结致谢 第六版雅典人工智能与法治圆桌会议 经合组织总部，法国巴黎，2024年12月9日 在希腊共和国总统卡特琳娜·萨凯拉波洛斯女士的赞助下 由组织： 与...合作： 支持来自： 关于第六版 建立具有约束力的全球人工智能标准和问责机制。严格的测试、独立评估和第三方审计，在人工智能安全研究所的支持下，被认为对于构建安全可靠的人工智能至关重要。虽然推进人工智能风险的科学共识仍然至关重要，但我们的讨论强调，治理行动不能拖延。更广泛的社会参与，特别是来自公民社会的参与，被认为对于确保治理框架反映多元视角和全球需求至关重要。 第六届雅典人工智能与法律圆桌会议于12月9日在巴黎经济合作与发展组织举办，为应对我们这个时代的一个关键挑战——建立强有力的问责机制，以确保人工智能的开发与治理符合法治——提供了一个宝贵的平台。会议召集了135名线下参与者（包括政府部长、政策制定者、民间社会领袖、行业高管和学者）以及来自108个国家的830名线上参会者，强调了在日益激烈的地缘政治竞争和技术主导权加速争夺的背景下，完成这项任务的紧迫性。 当我们在这份报告中回顾这一事件的结果时，有一件事非常清楚：为人工智能建立有效的治理不是一个终点，而是一项持续的努力。赌注很高：如果没有有效的问责机制，人工智能将加剧不平等，侵蚀人权，并破坏我们的民主制度。正如我们在开场致辞中所强调的：“如果人工智能开发者不对任何人负责，他们就不会被任何人信任。”迫在眉睫的是，我们需要世界各地数千个人的共同努力，以及跨地域和行业的协调。这就是我们如何促进缓解人工智能造成的系统性风险，并负责任且公平地实现其承诺——不仅是为了我们自己，更是为了我们社会的未来。 在希腊共和国总统卡特琳娜·萨凯拉罗普洛斯女士的赞助下，我们荣幸地举办了此次活动，并与经济合作与发展组织（OECD）、联合国教科文组织（UNESCO）、人工智能与社会研究所（AI & Society Institute）、CNNum和Make.org合作，同时得到了Arnold & Porter和Fathom的支持。值得注意的是，今年的雅典圆桌会议为塑造2025年2月即将举行的AI行动峰会（AI Action Summit）的议程和成果奠定了关键里程碑。 讨论围绕四个主题展开：评估人工智能治理的进展、识别现有治理机制中的差距、制定解决方案，并为人工智能行动峰会确定可行动的优先事项。与会者强调了国际合作的重要性以 此致 敬礼 尼克·莫斯执行董事 未来社会 尼基·伊利亚迪斯全球人工智能治理总导演 未来社会 关键利益相关方建议 谁对确保人工智能的开发和部署能够造福人类负有责任？我们的观点是，这必须是一项共同的努力，需要政府、政府间组织、行业、民间社会和个人的积极参与。每个参与者都将独特的视角、资源和专业知识带到治理过程中。 together, we can tackle the significant work needed to establish robust, effective, and globally consistent frameworks. 政府 协调国际标准 开展双边和多边合作，通过经合组织人工智能原则等既定的国际机制协调人工智能治理框架，确保不同法域之间的互操作性。促使国家元首就建立并相互承认国际标准提供高级别政治承诺。这包括支持在人工智能行动峰会上由多元世界领导人联盟签署的巴黎宣言，以促进人工智能发展中的“建设性警惕”和主动监督。 每个参与者为治理过程带来独特的视角、资源和专业知识。共同，我们可以应对为建立稳健、有效且全球一致的框架所需的重要工作。 我们确定了不同参与者为推进人工智能治理可以做的关键建议。为了得出这些建议，我们分析了每次会议的关键见解，并根据能够最大受益的参与者对其进行了分类。这种方法综合了讨论中提出的内容，并将这些见解转化为具体的、可采取的行动建议。以下概述旨在启发更深入的对话，探讨每个人都可以采取的实用、具体的行动来加强问责制、维护安全、基本权利和法治。 建立可执行的监督 通过制定具有约束力的法律命令，超越对自愿行业承诺的依赖，转向强制性要求。采用全面监管机制和人工智能发展的明确红线——借鉴欧盟人工智能法案和前沿人工智能安全承诺——以防止鲁莽部署并保护公共利益。 需要严格的测试、独立的评估和第三方审计 授权依据国际标准对人工智能进行频繁且标准化的独立评估。 政府间组织 所有人工智能开发和发展阶段的机制和事件报告要求。 制定全球标准与协作 国际人工智能安全研究所网络并与经济合作与发展组织合作建立和持续更新人工智能治理的互操作性标准，利用其势头人工智能行动峰会磋商，并确保这些标准被多个司法管辖区采用，或者至少被承认。 承诺生命周期问责制 对其整个生命周期承担全面责任，包括主动监控其部署后的影响。通过实施纠正措施并向利益相关者提供透明的更新，迅速解决 unintended consequences。 创建约束国际框架 公民社会 支持协议，要求公司政府采用具体明确的监督协议和可衡量的合规要求，包括与欧盟人工智能法案一致的有明确激励和红线。这些框架还应能够与全球不断发展的监管举措互操作。 支持人工智能治理中的包容性参与跨民间社会组织建立联盟 确保代表性不足的声音积极纳入决策论坛。培养公平代表，并为参与治理讨论创造有意义贡献的途径。 监控和评估AI影响 促进全球合作 建立独立、资金充足的计划，以系统地追踪、分析并公开报告人工智能的社会影响。使用这些评估结果来追究行为者（主要是政府和人工智能公司）在危害、偏见和意外后果方面的责任，同时倡导具有法律约束力的机制。 建立联合监督机制——特别是通过建立国际人工智能安全研究所网络（International Network of AI SafetyInstitutes）的永久性结构——以应对跨境风险，支持与经济合作与发展组织（OECD）合作的综合性事故报告平台，并在全球范围内推广事故预防政策。 行业 开发自适应全球基准 实施透明措施 引领创建和更新严格、全球相关的评估框架，用于人工智能。这些基准应标准化性能、安全和社會影响的指标，確保一致性與責任制，同時適應快速的技术进步。 定期发布清晰、详尽的报告，详细说明遵守道德准则和法规的情况、遵守安全标准的情况、风险评估和模型评估及测试的结果以及缓解策略。这些报告应符合国际公认的信息披露和问责标准。 个人 倡导透明与权利 要求人工智能开发者和政策制定者提高透明度，确保人工智能通过积极的公民教育与社会价值观和公众利益保持一致。 确保人工智能的负责任和可信赖发展 制定并实施全面的安保规程，其中包括明确的伦理使用限制、强大的利益相关者监督 积极支持那些重视透明度和问责制的开发者和组织。相反，拒绝那些未能达到道德标准或未能解决其技术造成危害的公司或产品——例如，选择不为其提供支持或不从其购买。 呼吁政府和公司采取更强的问责措施，确保人工智能服务于公共利益。 参与公共政策咨询 通过参与磋商和论坛，为人工智能治理的讨论和政策制定做出贡献。多元化的观点对于健全的责任追究机制至关重要。 第六版之数字 雅典圆桌会议召集了多元化的听众，使全球人工智能治理呈现出多样化和细致的视角。以下是重点数据，突出了此次活动的影响力与范围。 出勤 口语干预 部门 区域 / 国家 性别 在线参与者投票 问题 | 您有多自信AI将被妥善治理以确保其安全可靠？ 议程概述 第三课探索了构建人工智能参与者之间更强问责制的途径，深入研究了负责任发展的激励机制、互操作评估、透明信息流和有效事件报告。 对于这个版本，雅典圆桌会议专注于加强人工智能治理问责制的国际协调，并作为一个官方活动，导致了法国人工智能行动峰会在2025年2月。活动以开场致辞开始，强调了建立强 大机制以保障法治、民主价值和公平全球创新的需要。圆桌讨论采用了动态形式，结合了参与者的简短发言和互动交流。在线观众通过投票和聊天实时参与。 第 4 节宣布了人工智能行动峰会咨询结果反映了超过10,000名公民和200个社会组织就“建设性监督”以防止人工智能危害以及必要的监管措施所提出的意见。会议强调了利用这些发现以确保公民社会的声音直接塑造全球治理努力并影响峰会前的政策重点的重要性。会议还讨论了社会组织在全球人工智能治理中的核心作用，并提出了建立专门联盟以统一其声音的建议。 第一场绘制了人工智能治理的新兴格局，来自经合组织、联合国、联合国教科文组织、人工智能安全研究所和欧洲人工智能办公室等关键机构的代表展示了各自的问责制倡议。 与会者通过讨论如何保持势头迎接人工智能行动峰会而结束。要求在整个人工智能生命周期中嵌入问责制、保护人权和加强民主原则的呼吁贯穿了整个对话。基于分享的见解并借鉴咨询结果，本报告详述了在圆桌会议期间提出的具体目标和可交付成果。 第二部分检查了建立问责制人工智能治理的核心差距，包括推动更强大的全球标准、明确责任框架。管理人工智能竞争动态的策略，以及确保多元观点——特别是来自全球南方的观点——得到倾听。会议还强调了需要实用工具来弥补这些差距，例如可适应的政策框架和包容性的决策过程。 关于第六版的议程的更多信息，包括所有现场参与者的完整名单，是这里. 为人工智能建立有效的治理不是终点，而是一项持续的努力。赌注很高：如果没有有效的问责机制，人工智能将加剧不平等，侵蚀人权，并动摇我们的民主制度。 会议要点 开场白 演讲者 迪米特里斯·帕帕斯特吉奥乌部长部长，希腊数字治理部 乌尔里克·韦斯特加德·克努森经合组织副秘书长 克洛伊·古皮尔秘书长，人工智能行动峰会 尼克·莫斯未来社会执行董事 开场致辞通过强调人工智能治理中问责制的迫切需求，为当天的讨论奠定了基调。发言者强调了应对全球挑战的紧迫性，并强调促进国家、企业和整个生态系统之间的合作与互操作性对于人工智能治理的成功至关重要。致辞呼吁社会各界更广泛的参与，特别是来自全球多数国家和社会团体，以确保人工智能治理机制更能反映全球多元观点。 与民主原则和共同价值观保持一致，促进经济和监管稳定。 关键洞察 以人为本的人工智能发展 部长迪米特里斯·帕帕斯塔吉奥呼吁以人文与环境可持续发展的方式推进人工智能的发展。这种方式强调三点：保护未成年人、公平的利益分配以及保障基本权利。部长倡导通过本地人工智能来保护文化多样性，特别是像希腊语这样的较少使用语言，并提议创建一个欧洲开源大型语言模型。这项举措旨在减少对第三方系统的依赖，促进区域创新，同时使人工智能的获取和所有权民主化。 为包容性和行动导向型人工智能治理铺平道路 克洛伊·古皮尔将人工智能行动峰会视为一个推动共识和落实可操作性实际政策的变革性机遇。她强调创建一个以公共利益和安全为优先，同时放大多元观点的协调、民主治理框架的重要性。 制定问责机制迫在眉睫 尼克·莫斯强调需要务实的问责机制来恢复公众信任并确保负责任的AI发展。莫斯强调了制度创新在解决治理差距方面的重要性，并敦促与会者带着清晰可行的解决方案离开圆桌会议。莫斯强调了平衡创新与社会保护的重要性，告诫不要“发展太快而打破太多事情”。 监管碎片化风险 乌尔里克·维斯特加德·克努森指出了监管碎片化的风险，强调了由此产生的低效、法律复杂性和全球经济风险。他倡导政府、国际组织、民间社会和私营部门之间加强互操作性和共识建设。为了应对这些风险，克努森呼吁制定统一、全球的人工智