Government AI Hire, Use, Buy (HUB) Roundtable Series – Roundtable 3: Government as a Buyer of AI

研报正文总结

引言
美国政府积极拥抱人工智能，但缺乏全面的策略和监管框架来最大化AI应用并降低风险。为解决这一问题，乔治城大学安全与新兴技术中心（CSMET）等机构举办了政府AI招聘、使用和采购（HUB）圆桌系列，探讨AI的法律责任、政府服务转型及AI人才吸引与利用。拜登总统于2023年10月签署了关于AI安全、安全和可信赖发展的行政命令，OMB于2024年3月发布了政府AI使用政策，GAO也审计了联邦机构的AI使用情况。然而，关于政府AI采购和人才招聘的问题仍待解决。

讨论概述
圆桌会议分为三个环节：基础、透明度和问责制；风险评估、测试和评估标准；安全、责任和法律框架。主要观点和建议包括：建立灵活的治理和风险管理框架；明确机构的核心责任并增加资源；优先开发解决安全和关键挑战的政策和技术方案。

关键主题

1. 灵活性和适应性

• 建立灵活的透明度要求，平衡政府获取供应商信息和公众知情权。政府应通过更新使用案例清单、记录AI系统失败和建立尽职调查机制来提高透明度。
• 灵活适应不同机构授权和采购流程（COTS/非COTS）的需求。

2. 风险评估和管理

• AI风险主要源于其向公众部署，而非AI系统本身。生成式AI带来的新风险（如AI生成代码的网络安全漏洞）需要开发者解决。
• 现有法律框架可应用于AI风险管理，但敏感部署需要更严格的治理和风险管理实践。建议持续监控、测试、审计团队和跨职能团队嵌入保护措施。
• 私营部门的风险评估流程包括定期审查和风险分类，高风险系统接受更严格审查。建议建立触发机制（如新功能添加或任务调整时）进行重新评估。

3. 机构责任

• 责任：机构对部署的AI系统承担法律责任，但可考虑与供应商共享部分责任。机构需避免过度限制供应商池。
• AI清单：机构应更系统地跟踪AI采购和使用情况，但需增加资源支持行政办公室开展此类工作。
• 需求评估：机构在考虑AI采购时应进行更严格的评估，确定AI是否必要，并进行成本效益分析。

结论
AI政策和技术问题仍待解决，机构需开发工具和规则指导AI责任采购。政策制定者应增加资源支持机构风险管理和AI使用记录。最终，需建立灵活的采购模型，在嵌入保护措施的同时适应技术发展，以释放AI潜力并降低风险。