人工智能机器学习与监管：自动驾驶汽车案例

人工智能、机器学习与监管：自动车辆案例总结与结论 人工智能、机器学习与监管：自动车辆案例总结与结论 国际运输论坛 国际运输论坛是一个拥有69个成员国政府间组织。它作为交通政策的智库，并组织年度交通部长峰会。ITF是唯一涵盖所有交通方式的全球机构。国际运输论坛在政治上独立，并在行政上与经合组织（OECD）整合。 ITF致力于推动改善人们生活的交通政策。我们的使命是加深对交通在经济增长、环境可持续性和社会包容性作用的理解，并提高交通政策的公众认知度。 国际运输论坛（ITF）组织全球对话以改善交通运输情况。我们作为讨论和预谈判所有运输方式政策问题的平台。我们分析趋势，分享知识，并促进运输决策者和民间社会的交流。ITF的年度峰会是世界上最大的运输部长会议，也是全球交通运输政策对话的领先平台。 论坛成员包括：阿尔巴尼亚、阿根廷、亚美尼亚、澳大利亚、奥地利、阿塞拜疆、白俄罗斯、比利时、波斯尼亚和黑塞哥维那、巴西、保加利亚、柬埔寨、加拿大、智利、中华人民共和国、哥伦比亚、哥斯达黎加、克罗地亚、捷克共和国、丹麦、多米尼加共和国、爱沙尼亚、芬兰、法国、格鲁吉亚、德国、希腊、匈牙利、冰岛、印度、爱尔兰、以色列、意大利、日本、哈萨克斯坦、韩国、拉脱维亚、列支敦士登、立陶宛、卢森堡、马耳他、墨西哥、摩尔多瓦共和国、蒙古、黑山、摩洛哥、荷兰、新西兰、北马其顿、挪威、阿曼、波兰、葡萄牙、罗马尼亚、俄罗斯联邦、沙特阿拉伯、塞尔维亚、斯洛伐克共和国、斯洛文尼亚、西班牙、瑞典、瑞士、突尼斯、土耳其、乌克兰、阿拉伯联合酋长国、大不列颠及北爱尔兰联合王国、美国和乌兹别克斯坦。国际运输论坛 2 rue André ITF免责声明Pascal F-75775 巴黎凯德克斯16号 contact@itf-oecd.org www.itf-oecd.org 引用本文请按照以下格式：ITF（2025），人工智能、机器学习与监管：自动驾驶汽车案例研究，OECD出版社，巴黎。 致谢 本报告基于1月26-27日在巴黎和虚拟形式举行的ITF圆桌会议“人工智能、机器学习和监管”中的专家讨论。马克斯·赖因哈特博士（德国铁路交通研究中心）担任了圆桌会议的主席。ITF感谢德国联邦数字和交通部高级代表的积极参与，其中包括德国联邦数字和交通部国务秘书施特凡·施诺尔先生的开幕致辞，他提醒了以下内容： 参与者强调了人工智能在未来交通领域的重要性。在ITF，Changgi Lee与Camille Combe共同协调了该项目。Changgi Lee和Philippe Crist撰写了报告，Camille Combe提供了实质性贡献。Eugine Ro协助了圆桌会议的协调工作，并记录了讨论内容。Philippe Crist负责整体质量控制，Camille Larmanou管理了编辑过程。Mila Iglesias和Apostolos Skourtas协助组织了圆桌会议。本圆桌报告是ITF 2022-23核心工作计划的一部分，由Jagoda Egeland和Orla McCarthy协调，并已获得ITF交通研究委员会的批准。 作者们愿向Gianmarco Baldini（欧洲委员会联合研究中心）、Florent Perronnin（Naver Labs）、Martin Russ（AustriaTech）和William H. Widen（迈阿密大学）对报告的反馈表示感谢。ITF感谢Markus Reinhardt主持圆桌会议。同时也要感谢Gregorio Ameyugo（CEA List）、Siddartha Khastgir（华威大学）、Louise Dennis（曼彻斯特大学）、Latifa Oukhellou（居斯塔夫·埃菲尔大学）、Marry \"Missy\" Commings（乔治·梅森大学）、Gianmarco Baldini（欧洲委员会联合研究中心）、Aida Joaquin Acosta（西班牙交通、移动性和城市议程部）和Martin Russ（Austriatech）在圆桌会议中的演讲。附件A列出了圆桌会议参与者的姓名和所属机构。 目录 摘要.................................................................................................................................1 如何使人工智能混淆人类监管以及如何确保其可信性...........................................16进入机器：将（人类）驾驶员从车辆中去除.............................................................4自动化车辆部署水平在不同模式间分布不均..........................................................................................4 安全第一，其他功利性考虑其次.................................................................................6评估车辆安全与确保对安全的自动驾驶系统性能的信任........................................9 何时以及何物可认证？......................................................................................................................11 在自动驾驶安全评估中纳入AI特有的挑战........................................................................12 政策要点.....................................................................................................................................15 监管考虑确保在每个AI生命周期维度中的人工智能可信性......................26驾驶解剖：构成驾驶任务的要素，以及人工智能如何执行它们？...........................16 确保人工智能的可靠性：关键要素与人工智能生命周期.................................................................20政策要点.....................................................................................................................................25 参考文献............................................................................................................................................41附件A. 圆桌会议参与者名单................................................................................................48需要的数据以用于自动驾驶汽车？....................................................................................26 从开发到部署：验证AI模型.................................................................................30 与自动驾驶汽车协同进化：从自动驾驶汽车部署到使自动驾驶汽车为更好的交通服务..........................38政策要点.....................................................................................................................................40 数据图1. 机器学习概念和类别..................................................................................10 图2. 自动驾驶 车辆的多阶段测试、验证和验证.............................................................13 图3. 动态驾驶任务的示意图.................................................................................................16 图4. 用于自动驾驶的AI技术示例............................................................................................19 图5. 系统压力响应场景............................................................................................22 图6. 人工智能系统生命周期的五个维度.......................................................................24 图7. 本地动态地图中的四种类型数据.........................................................................27 图8. 技能-规则-知识-专家（SRKE）分类法........................................................................31 图9. 机器学习图像识别对抗攻击的脆弱性................................33 图10. 测试、评估、验证和验证（TEVV）环境.........................................34 图11. 基于类似数据解释做出不同决策的AI示例 ...........35 图12. 机器学习应用的设计可解释性和可解释性.......................................................................35 图13. 自动驾驶车辆的容错模式..............................................................................................36 表格 箱子表1. 人类与硬件/软件系统功能分配各方面Fitts列表的优势与劣势概要................................................................................18 方框1. 本报告中使用的术语 ...................