发展负责任的生成式人工智能共识
总则
发展负责任的生成式人工智能（GenAI）应始终致力于增进人类福祉，坚持以人为本，推动人类经济、社会和生态可持续发展。应正确认识GenAI所蕴含的巨大潜力和可能风险，遵循统筹发展和安全、平衡创新与伦理、均衡效益与风险的理念，推动GenAI负责任的发展。
促进生成式人工智能发展
一方面，应积极推动创新、可持续、包容开放的发展，提升GenAI算力高效、数据高质、算法创新、人才多元、生态开放的能力；另一方面，应以高度负责任的态度发展可靠可控、透明可释、数据保护、多元包容、明确责任、价值对齐的GenAI。
可持续发展
积极倡导并稳妥推进GenAI的可持续发展：
- 经济可持续性：确保GenAI提高生产力和创造就业机会，提高资源使用效率，实现数实融合的循环经济，推动科技创新，促使经济结构向更高附加值的转变。
- 社会可持续性：确保GenAI公平与平等的使用，实现全社会对其的共享共治。
- 环境可持续性：GenAI的发展应实现对于自然资源的可持续管理和使用，鼓励采用绿色能源驱动基础设施、提高能源转化效率、绿色开发算法模型应用，降低温室气体排放，实现绿色发展。
构建良好环境
构建有益于GenAI健康有序发展的良好环境：
- 建立和完善相关的伦理原则和法律法规，重点审视知识产权法律制度，探索人工智能生成物的权利归属方案，对其进行恰当的管理和保护。
- 构建包容、扶持、前瞻、可预期的政策环境，为前沿应用孵化构建一个包容的创新环境，为规模推广营造一个优良的营商环境，为赋能经济社会发展搭建一个稳健的监管环境。
- 加强国际交流与合作，推动形成具有广泛共识的国际评测及标准体系，确保各国共享GenAI的技术惠益。
提升研发及规模应用能力
提升GenAI研发及规模应用的能力：
- 构建开放共享、普惠包容的算力资源，推动算力的合理分配与高效利用，降低科技创新的门槛。
- 推动负责任的数据共享，鼓励推广高质量数据的共享流动，增强公共数据资源供给，保障数据安全共享与合规利用。
- 完善算法创新的设施条件，鼓励算法和基础模型在安全的基础上开源开放，加强跨行业、跨领域协作，推动产学研结合。
- 全面加强人才能力建设，建立人才交流平台，促进互学互鉴与知识共享，加强科普、教育及培训，提升数字素养。
- 推动重点领域应用赋能，推动GenAI与各行业数字化场景深度融合，实现应用迭代创新。
发展安全可靠的生成式人工智能
发展安全可靠的GenAI，确保全生命周期内可控地运行：
- 提升安全稳健性和生成准确性，增强生成式模型防御提示攻击、注入攻击等能力，不断提高稳健性和抗干扰能力。
- 确保人类知情与控制，确保人类知悉其在与GenAI交互，确保GenAI系统可被人类监督和及时接管。
- 避免技术滥用与恶意使用，避免用户过度依赖GenAI，减轻其对人类创新力与主体性的负面影响。
增强透明度与可解释性
增强GenAI系统的透明度与可解释性，提升人类对其理解和信任：
- 提升透明度，鼓励在安全的基础上披露GenAI系统的能力及局限性，以及决策过程及技术意图，建立外部监督与反馈渠道。
- 增强可解释性，推动GenAI的可解释性研究，探索自适应场景和风险水平的强可解释性技术路线。
强化数据治理
强化GenAI数据治理，加强数据安全，尊重和保护个人隐私：
- 强化数据治理，避免训练数据的非法收集、滥用和泄漏等问题，采取有效措施提高训练数据质量。
- 加强个人信息与隐私保护，确保生成内容不侵犯个人隐私。
- 探索隐私保护技术，在构造GenAI系统时，探索使用隐私计算等技术，防范数据泄露及滥用风险。
确保开放包容和公平普惠
确保GenAI的开放包容和公平普惠：
- 确保技术多元包容，保障GenAI的训练数据、应用场景具有必要的多元性，避免产生对特定群体或个人的偏见或歧视。
- 促进技术公平普惠，降低GenAI的成本和使用门槛，提升其可得性和易用性，推动人类社会共享GenAI带来的益处。
明确归责体系
明确GenAI的归责体系，增强系统可追溯性：
- 明晰归责体系，科学设计不同类型主体在GenAI设计、训练、优化、部署、应用等全生命周期的权利义务和归责体系。
- 构建追溯机制，鼓励成立并完善人工智能伦理委员会，确保决策过程及结果可追溯。
- 探索治理沙盒等创新友好型治理工具体系，为GenAI提供试错空间，支持负责任的创新探索。
推动价值对齐
推动GenAI更好地理解人类意图、遵循人类指令并符合人类的伦理道德：
- 探索价值对齐研究，加强GenAI价值对齐理论探索、技术研究和工具研发，提升人类设计、理解和监督GenAI模型的能力。
- 提升价值对齐技术，提升GenAI的训练数据质量，采取人工或自动化检测、红队测试、水印标记、内容过滤等手段，增强其与人类价值的一致性。
提升负责任治理能力
提升GenAI的负责任治理能力：
- 加强多领域教育，针对从业者，建立人才交流平台，促进互学互鉴与知识共享，设计并实施涵盖多层次、多领域的教育培训项目；针对公众，加强科普、教育及培训，提供准确认知，提升数字素养。
- 增强关键应用领域赋能，推动GenAI与各行业数字化场景深度融合，实现应用迭代创新，驱动GenAI在重点领域的应用赋能。
