核心观点
- 自动驾驶汽车（AVs）的部署面临着技术和监管方面的重大挑战，其中确保其安全性和可信度是首要任务。
- 安全系统方法为制定AVs法规提供了一个稳健、以安全为首要的框架，该方法承认错误和不可预见的驾驶行为是不可避免的，并确保这些行为不会导致严重伤害或死亡。
- AVs的认证不应简单使用净风险平衡（PRB）指标，而应采用更细致的方法，比较类似的安全性能，并解决风险在人口中的分布变化。
- AVs的评估需要适应以涵盖与AI相关的挑战，包括网络安全、数据隐私、数据处理的公平性等。
- AVs的监管框架不仅限于车辆验证；它还必须确保安全，包括通过V2X连接和机器可读法规改善运营环境，提高利益相关者的技能并改善社会接受度。
- AVs的操作环境在其安全使用中起着重要作用，现有的操作环境应得到改善，以使AVs更容易安全地运行，并降低遇到罕见但风险较高的情况的可能性。
- AVs与其他道路使用者之间更好的信息交换可以帮助避免潜在的危险情况。
- 为了确保AVs在社会上具有益处和接受度，所有AI生命周期的阶段都需要得到考虑。
- 为了解决与数据相关的问题，如潜在的偏见和隐私侵犯，需要制定法规以验证数据的合法和道德收集和使用。
- AVs并非免疫于编程错误或意外行为。因此，处理这种不确定性的流程是必要的，同时还需要政策来减轻AVs的影响并提高其事后的安全性能。
- 与航空部门的现有方法一致，AVs的推广应包括正式协议，以确保所有参与者在安全事件发生后都能学习和整合经验。
- 数据是AI系统的核心元素。数据处理程序和系统应确保AI系统的训练数据有助于识别偏见、质量问题和隐私问题，避免来自对抗性攻击或编码/人为错误的污染。
- AVs的驾驶行为涉及持续感知环境、做出决策和执行运动控制。自动驾驶汽车利用多种人工智能技术执行战术和操作任务，包括感知、规划和控制等。
- AVs的AI系统应结合人类的伦理价值观进行设计，并确保其在整个生命周期内都得到适当的监管和制度干预。
- AVs的部署需要建立机器可识别的标志、标记和其他重要视觉线索，以增强安全性能。
- AVs的推广需要提高并集中公众参与度，以收集并采取运营设计域（ODD）内居民和利益相关者的观点。
关键数据
- 自动驾驶汽车的累积行驶里程不足以建立简单的可比性基础安全性能指标。
- 人类驾驶的死亡率涉及更大的行驶里程（例如，在美国每行驶7400万英里就有1人死亡）。
- 自动驾驶汽车的预期效应包括提高交通安全、改善可及性、降低一般性交通成本、对旅行需求、公共收入和劳动力等方面的影响。
研究结论
- 为了安全地发挥自动化交通的巨大潜力，支持性法规必须能够证明AVs的可靠性，无论是在安全方面还是在服务于公众利益方面的能力。
- AVs的部署需要新的制度性和监管安排，涵盖整个基于人工智能的操作系统。
- 整个人工智能生命周期——包括AVs的操作环境、用于AVs的数据，以及AVs的自动化操作——在高效和安全的方式下满足未来出行需求具有巨大潜力。
- 为了实现自动化交通的完全潜力，必须满足两个基本条件以确保其安全可靠的交付：可靠性和可信度。
- 克服技术和监管挑战，以及最小化风险，将有助于提高社会接受度和采用率。
- 模型、输出及其对社会的影响——在制定AVs的法规时应当予以考虑，以确保AVs安全、可靠且足够有益，以便成为我们交通系统的一部分。
- AVs的法规必须包括技术和非技术措施。
- 对自动驾驶汽车（AVs）安全、社会可接受和有益能力的信任将支撑其持续部署和更广泛的使用。
- 除了技术稳健性和安全性外，还需要保护隐私、无偏见和道德地处理数据、公平性、可解释性和透明度。
- 公共权威机构的制度能力和监管措施应保障AI开发和应用过程的透明度。
- 它们还应该确保AI系统具备充分的可解释性——尤其是在使用自我学习的人工智能工具时。
- 这要求公共权威机构及其工作人员持续积累知识和技能。
- 面对目前私营部门技能集中的现状，实现这一点是一大挑战。
- AVs的操作环境在其安全使用中起着重要作用。
- AVs的驾驶行为涉及持续感知环境、做出决策和执行运动控制。
- AVs的AI系统应结合人类的伦理价值观进行设计。
- AVs的部署需要建立机器可识别的标志、标记和其他重要视觉线索，以增强安全性能。
- AVs的推广需要提高并集中公众参与度，以收集并采取运营设计域（ODD）内居民和利益相关者的观点。
