欧盟人工智能法案全面2了解风险

培训时间：6月6日至7日会议时间：4-5月 #AIGG24 # 欧盟人工智能法案 - 风险分类 Brenda Leong，合伙人，Luminos.Law 议程大纲 ●欢迎及自我介绍●背景与定义●风险类别●合规义务●示例与用例●问答 背景与定义 上下文 一般原则： 生命周期治理 ●保持安全、可靠和值得信赖●支持工作人员●推进股权与民权●保护消费者●管理风险●公平、透明，并可问责的●促进创新 ●用例选择●设计和特征选择●数据和开发●部署、监控●退役 欧盟人工智能法案 - 背景 ●主要目标 - 确保人工智能系统尊重欧盟价值观和基本权利和遵守现有法律标准。. ●关注以人为本且值得信赖的AI，强调AI系统需要具备安全性、透明性和问责性，从而保障公民的权利和自由。 ●欧盟致力于领先的伦理视角下的AI全球。 ●确保人工智能技术不会损害公共利益。 定义 人工智能系统欧盟人工智能法案与国际公认的准则相一致。遵循经合组织（OECD）指南，并将人工智能系统定义为以下： ●一个设计为在不同水平下运行的基于机器的系统。自主性以及可能表现出部署后的适应能力，并且，为了明确或隐含的目标，从接收到的输入中推断如何生成预测、内容、推荐或决策等输出，这些输出能够影响物理或虚拟环境。（第3条第1款） ●一个AI模型是基础程序——必须与用户界面或其他方面相结合才能成为一个AI系统。当AI系统投入市场时，规则适用于模型。 定义 ●(草案文本) 基础模型- “d开发自算法设计用于优化输出的普遍性和多样性……通常在广泛的数据源和大量数据上进行训练。实现一系列下游任务，包括其中一些任务。他们并非专门开发和培训的。 ●生成式人工智能-能够生成文本、图像和其他内容……开发和培训需要大量的……数据。” An示例：GPAI（下一页）（序言105） 定义 通用人工智能（GPAI）模型： 一个AI模型，包括该AI模型如何使用大量数据进行训练的情况。监督规模化，显示出显著的普适性，并能够胜任广泛任务的执行。无论模型如何投放市场，都能涵盖一系列独特的任务，并可集成到各种下游系统或应用中，但前提是这些AI模型在投放市场之前不用于研究、开发或原型制作活动。 通用人工智能（GPAI）系统： 一个基于通用人工智能模型的人工智能系统，并且具有为以下服务的功能：多种用途，既可以直接使用，也可以集成到其他AI系统中。 定义 通用人工智能（GPAI）模型： ● 假定对社会、基本权利和价值观具有最高影响●基于计算能力确定 - 以“浮点运算”或FLOP表示 - 设定为10^25 ○委员会可以否决此标准（在较低功率阈值下的高风险） ●不包含预发布型号（研发、原型设计）。 ●技术文档（详细）供下游提供商使用；版权合规；训练数据描述 ● 除非是具有系统性风险的GPAI，否则免除开源模型的适用。 定义 通用人工智能模型与系统性风险（GPAI_SR）： 一种特定于通用人工智能模型高影响力功能的风险，由于它们的覆盖范围，或由于对公共卫生、安全、公共安全、基本权利或整个社会可能产生的实际或合理可预见的不良影响，这种风险可以在价值链上大规模传播； •GPAI要求+针对系统性风险的特定评估；充足的安全性•供应商识别系统并向欧盟委员会通报•欧盟委员会亦能识别和指定——保持并发布一份最新名单适用于其他免受豁免的开源模型技术文档、评估细节及系统架构 定义 模型“供应商”： 一个开发人工智能系统或通用人工智能模型的自然人或法人、公共权力机构、机构或任何其他实体，或者拥有人工智能系统或通用人工智能模型。模型开发完毕并将其投入市场或将其AI系统投入使用。个人名称或商标，无论是有偿还是无偿; ●“Provider”具有特定的义务 ●详细的数据训练摘要；●版权政策；●输出识别；提交评估 风险类别 类别 社会评分；实时监控；利用或操纵；预测警务 ●URAI 禁止 合格评定 就业、教育、服务获取、车辆安全、执法；生物识别；画像 ●HRAI 透明度义务 无义务 无法接受的风险 禁止，但有例外： ●潜意识技术；有意操纵或扭曲行为；损害做出知情决策的能力 ●利用个人/群体年龄、生理/心理上的漏洞能力 ● 社会信用评分 ●● 在工作或教育环境中的情绪识别系统● 基于抓取面部图像创建FR系统预测警务●生物特征分类系统根据敏感或受保护属性 ●实时远程生物识别系统在公共领域可及空间（例外） 高风险 在法案中明确指出： 附件III 附件I ●执行使用案例下列出的功能○生物识别用途尚未被禁止○关键基础设施○教育与职业培训○就业○访问公共服务○执法○移民管理○司法行政管理；民主进程 ●用作成分或列表产品中的成分（广泛）列表）○机械设备、玩具安全、医疗器械 高风险 添加至附件三：复杂分析 - 有例外 ●如果不构成“显著伤害风险”，则不应被视为高风险。健康、安全或自然人的基本权利，包括但不限于：对决策结果产生重大影响的”（除非包括自然人的画像） ○狭窄的程序任务○为了提高先前的人类活动○用于分析，而非替代人工审查。○执行预备任务 ●提供者是否考虑附件III覆盖的人工智能系统存在重大风险？如果不考虑——请登记并在请求时提供文档。 高风险 补充附件III，基于复杂分析 - 标准： ●预期用途 ●当前或预期用途的规模 ●数据和使用的性质与数量 ●特殊个人数据类别 ●自主行动的程度；人类干预（可能有害的）决策或建议的可能性 ●程度已对其造成的伤害（健康、安全、权利） 高风险 标准（续）： ●潜在伤害或不利影响的范围——强度、受影响群体，不成比例的影响 ●收益的幅度和可能性●权力不平衡 - 受影响个人的脆弱性●个人对产出（退出能力）的依赖程度●现有的预防和补救措施●易于可逆性，包括技术解决方案 合规义务 高风险 - 合规性 ,,概述 - 然后分配到供应商进口商经销商等等 ●●● “严重事件”报告登记和报告；一致性评估，通用规范，证书风险管理措施已实施（详细）●测试、上市后监测——生命周期风险管理○可预见的预期用途影响和可预见的误用影响○对孩子的影响 ●●● 透明度 - 可机器读取，可检测为生成或篡改● 技术文档和记录保存● 人工监督准确度、鲁棒性和网络安全数据治理（广泛） 高风险 - 合规性 受严格义务约束 之前投放市场： ● 足够的风险评估和缓解系统；●高质量的数据集喂养系统，以最小化风险和歧视性结果。 ●记录活动以确保结果的可追溯性；●详细文档，提供有关系统和其目的的所有必要信息，以便当局评估其合规性。 ● 高度稳健性、安全性和准确性。● 向用户清晰且充足的信息；● 合适的人工监管措施以最小化风险； GPAI 模型 - 合规性 主要关注GPAI模型提供者： ●技术文档- 训练，测试 ●信息和文档下游供应商 ●清晰的指导作为版权影响 ●透明度；嵌入式保障措施；训练数据版权 ●实践准则，直至有统一标准可用 ●开源模型的例外情况 GPAI_SR 模型 - 合规性 供应商的义务（除GPAI之外）: 透明度义务 有限风险：旨在直接交互的AI系统自然人，但也适用于GPAI和生成式AI ●生成的合成输出以机器可读格式清晰标注；可检测为生成或操纵的●明确通知自然人他们正在与人工智能交互 ● 专门用于深度伪造●情绪识别系统和生物特征分类——信息个人并按照规定保护/处理数据 示例与用例 高风险人工智能流程 人工智能在就业领域 可能的高风险： ●在招聘或选拔过程中使用 - 此语境中的示例包括针对特定职位发布的招聘广告、分析和筛选职位申请。评估（排名/评分）候选人。 ●经常用于影响工作相关条款的决定关系、晋升和终止、合同问题、分配基于个体行为或个人特征或特点的任务以及监控和评估处于此类关系中的人们的表现和行为。 人工智能在就业领域 如果属于高风险 - 雇主必须做到： ●通知工人代表和受影响的工作人员，他们将受到人工智能系统的约束。●实施由具备适当能力的人员进行的人为监督。 培训、权限以及必要的支持；●监控系统使用情况，如出现歧视等问题，应立即暂停使用该系统，并通知供应商、进口商或分销商以及“相关市场监督管理机构”；●自动维护系统生成的日志，保存期至少为六个月；并且●遵守任何适用的数据隐私法律。 人工智能在教育领域 可能的高风险： ●用于确定访问或入学，或将人员分配到教育或培训机构。 ●旨在用于评估学习成果，或用于评估个人将接受或能够获取的教育适当水平。 ●用于监控和检测考试作弊的学生。 生物识别技术 定义： 生物特征分类系统；远程生物特征识别系统；实时远程生物特征ID系统；远程生物识别ID系统 禁止 •根据他们的生物识别数据对人群进行分类，以推断或推测他们的种族、政治观点、工会会员资格、宗教或哲学信仰、性生活或性取向。从互联网或监控录像中未标注的抓取人脸图像。 高风险 •任何系统（未经禁止）的功能超出身份验证/身份认证的范畴已使用用于识别或分类或情感识别在其他情境中 例外 •执法•仅为了使网络安全和个人数据保护措施得以实施 异常（总结） 然而：任何人工智能系统将自动被被认为是一个“高风险”的AI系统，如果AI系统执行了用户画像。个人 疑问？ 资源清单 •欧盟人工智能法案《欧洲议会和理事会关于制定协调法规的提案》关于人工智能（人工智能法案）及修订某些欧盟立法条例的规则 •草稿，并列三版欧盟人工智能法案2023年6月20日•欧洲议会版本，2023年6月14日2023年6月14日•人工智能法案，委员会的总体方法2022年11月25日•人工智能法案，委员会提案2022年4月21日•人工智能 - 问题与答案 - 欧洲委员会2023年12月12日•新闻稿：欧盟委员会欢迎关于人工智能法案的政治协议2023年12月9日•声明——欧盟委员会主席冯德莱恩关于人工智能法案的声明2023年12月9日•欧盟理事会新闻稿- 2023年12月9日•欧洲议会新闻稿- 2023年12月9日•欧盟人工智能法案即将（几乎）出台。这将对您的企业意味着什么。, 古德温，2024年2月14日•欧盟人工智能法案解读《币 Telegraph》，2024年2月8日 事情进展如何？（我们真的很想知道） 您喜欢这次会议吗？有什么方法可以使其更完美吗？请通过填写演讲者评估表来告诉我们。 1.4. 查找本会议。点击“在描述中评估此会议”。5. 答完所有三个问题后，点击“完成”。3. 点击底部导航栏上的“安排”。请输入IAPP AIGG24（区分大小写及空格）至搜索栏中。打开Cvent活动应用。