Government AI Hire, Use, Buy (HUB) Roundtable Series – Roundtable 1: Government as a User of AI

研报总结

引言
美国政府在人工智能领域展现出积极态度，但缺乏全面战略、监管框架和跨机构协调，难以最大化AI的公共效益并控制风险。为解决这一问题，乔治城大学政府AI招聘、使用和采购（HUB）圆桌系列邀请了各界专家探讨AI的法律责任、政府服务转型以及人才吸引与利用问题。近期，拜登总统签署了关于AI安全、安全和可信赖发展的行政命令，OMB发布了政府AI政策文件，GAO完成了联邦机构AI使用审计，但关键问题仍待解决。本报告基于2024年系列圆桌会议，聚焦政府作为AI用户议题，核心观点包括：

核心观点与关键数据

1. AI定义挑战：需界定AI范围以覆盖所有用例，避免将旧技术纳入监管。
2. 监管框架：需结合标准、指南、政策和法律框架，而非单一工具。
3. 监督机制：需保持多元视角（包括工会、边缘群体和联邦雇员），确保AI应用符合伦理标准。
4. AI应用定位：AI最适合数据分析、流程优化等辅助性任务，不宜替代决策或政策制定。
5. 资源需求：需加强机构级和个人AI培训、标准制定，以支持负责任和安全的AI整合。

圆桌会议分议题总结
第一场：基础、伦理框架与监管

• 共识：需建立共享AI定义以明确监管范围，并采用“硬法”（如欧盟模式）与“软法”（如日本模式）结合的监管策略。
• 建议：政策框架需结合机构需求，辅以司法救济机制应对未预见风险。

第二场：安全与透明度

• 挑战：缺乏对AI使用案例的全面盘点、合同中的数据披露和责任条款、以及对AI效益与危害的跟踪。
• 建议：增加对国家标准与技术研究院（NIST）的投入，并制定强制性监管措施。

第三场：AI应用与挑战

• 偏见与劳动力问题：需通过多元团队（包括工会和边缘群体）减少算法歧视，加强开发者对劳动者权益的培训。
• 建议：实施全员AI培训、个人认证和系统设计标准，并建立“人在回路”机制以增强AI辅助功能。

第四场：AI在政策与决策中的应用

• 适用场景：AI最适合福利管理、规则制定等非决策性任务，如补助金发放、拨款评审。
• 建议：确保透明度（如公开AI用例）和人类监督，以建立公众信任。

结论
政府应将AI定位为辅助工具，而非决策者，通过多元监督、透明度和持续评估来平衡创新与风险。需加强资源投入，完善监管机制，并确保AI应用符合伦理标准，以实现公共利益的最大化。