AI开放度：政策制定者入门指南

本报告探讨了人工智能开放性的概念，包括相关术语以及不同开放程度的存在方式。报告指出，“开源”一词源于软件，并不能完全捕捉到人工智能的独特性，因为人工智能的“源代码”可能指推理代码、训练代码或两者兼而有之，并且模型权重和训练数据等其他关键组件也可以公开或保持私密。报告分析了当前开放权重基础模型的趋势，使用实验数据说明了其潜在的好处和风险。报告还介绍了边际概念，以进一步丰富讨论。报告旨在清晰地呈现信息，以支持关于如何平衡生成式人工智能基础模型的开放性与负责任的治理的政策讨论。

报告认为，开放权重模型的数量和质量都在增加。美国在开放权重模型开发方面处于领先地位，其次是中国和法国。荷兰和新加坡是主要的提供中心，这突出了人工智能部署的全球性。开放权重模型具有许多好处，例如促进有益的创新、外部评估、提高人工智能开发的效率、促进人才发展、扩大使用、采用和市场竞争，以及支持敏感数据管理。然而，开放权重模型也带来了风险，包括下游影响和风险扩散、监控和修复方面的挑战、模型漏洞暴露、知识产权侵犯、恶意使用（例如网络攻击、儿童性虐待材料生成和隐私风险）以及不可预测的代理部署。报告建议，在决定是否发布模型权重时，应仔细权衡潜在的边际收益和风险，并考虑实现收益或减轻风险的其他选择。报告还建议未来的研究应调查这些模型的实际使用情况，特别是关注其开发和部署的经济影响和溢出效应。