对药品安全领域的人工智能治理提出更高要求

监管环境现状

截至2025年1月，全球69个国家已提出或实施超过1000项与人工智能相关的政策倡议和法律框架。欧盟AI法案于2024年发布，成为全球首个综合性AI法律框架，采用风险分级方法，将于2026年8月2日起对高风险AI系统实施强制性规定。美国、日本等国也发布备忘录鼓励AI创新，同时强调风险管控。欧洲药品管理局（EMA）、美国食品药品监督管理局（FDA）和英国药品与健康产品管理局（MHRA）均发布草案框架，为制药企业提供了参考。

面临的挑战

1. 信任问题：生成式AI的“黑箱”特性导致透明度不足，难以解释模型决策过程，影响企业信任。
2. 流程变革：传统药监工作流程根深蒂固，企业需进行文化和技术双重转型才能适应AI。
3. 验证难题：缺乏针对动态AI的验证标准，企业在模型开发假设、评估指标选择等方面存在不确定性。

解决方案：AI治理

1. 风险分级：建立基于风险的AI治理体系，明确高风险AI系统的监管要求。
2. 透明度机制：要求技术供应商提供系统设计、模型选择和风险控制说明。
3. 数据隐私保护：确保患者数据安全，防止数据泄露和重新识别。
4. 偏见审查：建立多维度数据审查机制，确保算法公平性。
5. 持续监管：定期评估供应商合规性，及时响应法规和技术变化。

合作伙伴选择

企业应选择具备以下能力的AI技术供应商：

• 深入理解AI立法现状
• 具备风险评估能力
• 实施有效的AI控制措施
• 掌握监管文档要求
• 拥有成熟的动态AI验证策略

行动建议

生成式AI已进入现实应用阶段，监管机构鼓励负责任的创新。企业应：

1. 制定AI治理计划
2. 建立AI治理网格和风险分级评估体系
3. 与技术供应商建立长期合作机制
4. 推动跨职能团队协作
5. 主动适应技术发展

结论：AI治理是推动药监领域AI应用的关键，企业需从设计阶段就嵌入治理机制，才能在合规前提下实现技术价值。