欧盟人工智能法案法律深度探讨第二部分：平衡医疗技术创新与安全

许多人工智能法案中最具争议的为什么人工智能法案如此有争议？t仍然不确定7, 2023.)委员会提案作为一种横向监管，人工智能法案涵盖了所有人工智能系统的领域和使用。特别是，欧盟政治团体在诸如在公共场所使用生物识别（如人脸识别技术）等问题上一直存在分歧。 “电磁兼容性立法那适用于某些类型医疗器械的情况就是一个例子，”但是，对于既是医疗器械又是人工智能系统的产品，真的有必要进行多次合规性评估吗？库利律师事务所的伊丽莎白·赖特和爱德华·图尔特不这么认为。双合规评估有必要吗？确实，BSI集团于四月宣布，它与日本Citadel AI合作，以确保其充分准备好进行基于人工智能的医疗设备的符合性评估。（另见“认证机构是否已准备好接受人工智能？德国联邦信息安全局（BSI）与专业公司合作开展合规性评估" -i22023年4月5日，医疗科技洞察。)赖特和乌龟告诉医疗技术洞察据称，对于电子产品等一般消费品，多项立法适用于产品而无需进行多项符合性评定是很“普遍”的。流程。通常，在欧盟法律中，存在一个明确的界定声明，使特定行业的立法优先于其他适用法规。根据草案文本第43(3)条，进行人工智能法案合规性评估的责任将属于负责评估产品是否符合MDR/IVDR要求的被通知机构。许多医疗科技行业利益相关者担心这将会给医疗科技被通知机构和制造商同样带来额外的负担，而此时许多机构已经面临能力挑战。（另见\行业呼吁单一合规评估涵盖欧盟MDR、EHDS和人工智能法案- 医疗器械24洞察，2023年2月。）调控人工智能与英国框架不同。http://medtech.citeline.com/MT148001 © Citeline 2023. All rights reserved. Unauthorized reproduction prohibited.人工智能法案在其当前形式下，可能会导致其范围内的医疗器械需要同时证明符合 MDR/IVDR 规则和人工智能法案的要求，从而导致双重符合性评估 关键要点• 英国最初计划采取非-• 对于属于《人工智能法案》和《医疗器械法规/体外诊断医疗器械法规》范围内的医疗设备，可能无需进行多项合格评定。• 《人工智能法案》文本应具体且精简，以避免给医疗器械行业增加不必要的负担。激烈争论的条款不直接适用于医疗器械制造商。然而，欧盟政策制定者和政治家未能就《人工智能法案》文本达成协议的时间越长，医疗技术行业实施该法案的时间就越推迟。 哪些改变可以做出？对患者的影响http://medtech.citeline.com/MT148001 © Citeline 2023. All rights reserved. Unauthorized reproduction prohibited.这种“规定性”监管方法会限制或延迟产品进入市场的时间，从而影响创新，并可能对患者产生不利影响。原则上，Wright和Turtle表示，人工智能法案可能会增强患者获得医疗保健的途径，并可能“从根本上改善”这种护理质量——例如，通过提高诊断的准确性。为了反映新的要求，即使《人工智能法案》并没有引入对新产品进行单独合格评定的需要。然而，人工智能系统带来了独特的安全、安全和临床方面的担忧，必须得到解决。例如，人工智能系统必须是可解释和透明的，以便临床医生能够正确解释这些机器做出的分析结果。偏差也是人工智能的一个风险，必须减轻。在三读讨论阶段，在欧洲议会全院以赞成当前草案文本的表决之后，可能会产生改变这种平衡的机会。因此，在目前“难以判断”人工智能法案是否会对医疗保健服务和创新造成干扰，或者是否需要对风险进行缓解，莱特和龟壳说。“人工智能法案旨在解决这些问题，以确保人工智能技术根据基本权利和价值观得到适当部署，”赖特和龟氏说。“另一方面，监管人工智能始终存在风险，特别是在欧盟提出的那种非常规定的方面。”因此，怀特和龟壳指出，现有AI医疗设备的合规性评估“可能需要重新进行”律师表示。“通常，[MDR/IVDR] 合规性评估程序一次性处理所有要求，无需多次评估。”“重要的是要保持平衡，通过不制定过于繁重的规定，来保持适当程度的灵活性和创新范围，同时保护患者和其他最终用户，”他们补充道。 人工智能治理的立法方法，但随着这种技术的风险日益明显，高层政治家们开始推动监管干预。 英国能效法欧盟吗？确保人工智能系统安全有效是全世界政策制定者的优先事项，但欧盟是率先提出针对人工智能的密集型横向监管的第一批国家之一。许多人工智能法案的批评者警告说，这将导致创新从欧盟流失到人工智能监管更宽松的地区，但正如库利律师事务所的龟岛律师所解释的那样，不太可能看到欧盟出现基于人工智能的医疗设备大规模撤离。英国现在在退欧后可以自由制定关于人工智能的法律法规，直到上个月都选择了基于非法定指南的“轻触式”人工智能治理框架。（也参见“英国“非法定”人工智能监管框架对医疗科技意味着什么-医疗器械洞察，四I3, 2023.).律师已确定当前草案文本中两个“关键领域”的潜在风险，可能需要管理：完善人工智能系统的定义和避免监管重复。律师提出的第二点改进意见涉及到《人工智能法案》与其他法规的互动，这一主题在一篇由相同Cooley专家参与撰写的先前的Medtech Insight文章中有更深入的探讨。“委员会的建议对构成人工智能系统的要素采取了极其宽泛的看法，这将使大量软件系统纳入其范围，”赖特和龟勒说，并补充说，这个初始定义将包括“远多于”应被视为“真正人工智能”的产品。欧盟理事会和议会试图缩小定义范围，他们指出，这对整个医疗保健和医疗技术行业的软件开发者来说很重要，因为“过于宽泛的方法可能会带来很大的负担”。在医疗保健领域，人们担心高度规范化的医疗保健环境可能会因《人工智能法案》增加另一个监管障碍，给人工智能技术提供者带来不成比例的负担，怀特和龟氏说道。http://medtech.citeline.com/MT148001 © Citeline 2023. All rights reserved. Unauthorized reproduction prohibited.“确保最终文本中的要求得到精简，并避免与其他相关立法所施加的潜在重复或矛盾的义务，”他们补充道。然而，正如乌龟所指出的，英国政府近几周来的立场已经发生变化，尽管正式提案尚未公布，但政界人士呼吁对人工智能实施更严格的规定。6月，英国首相里希·苏纳克表示，英国应该是全球12主张对人工智能进行监管，暗示英国可能逆转其最初认为关于人工智能的新立法是不必要的立场。 l 围绕人工智能监管的许多讨论也假设行业反对对人工智能进行监管，但龟兹表示情况并非如此。“也不应忽视许多人工智能提供者都在呼吁更多监管，”他说，“因为这些技术适用的法律缺乏确定性也可能对发展产生不利影响。”因此，如果这些公司希望服务于欧盟市场，那么在欧盟境外成立公司将不能使他们规避《人工智能法案》的合规要求，龟氏表示。http://medtech.citeline.com/MT148001 © Citeline 2023. All rights reserved. Unauthorized reproduction prohibited.“这里有近5亿欧盟消费者，这是一个巨大的市场，不能忽视，”他解释说，并补充说，有人提议人工智能法案将对世界上任何地方的AI提供者“域外适用”，只要他们制造的系统影响欧盟用户。“无论英国采取何种方式，即使《人工智能法案》带来巨大的监管负担，医疗科技公司不太可能完全避开欧盟市场，”龟说。然而，我们可能会看到的一个趋势是，医疗科技初创公司会考虑在欧盟以外地区上市，以允许它们在欧盟法规的制约环境之外进行扩展，然后才在更成熟的阶段进入欧盟市场。