以普惠包容的人工智能治理赋能全球可持续发展

世界互联网大会人工智能专业委员会安全与治理推进计划 牵头人 曾毅中国科学院自动化研究所肖恩·欧·海格缇剑桥大学 专家及贡献者 （包括推进计划成员和特遗专家，以及为报告提供内客或意见的专家按单位名将首字母排序） 阿里巴巴（中国）有限公司张荣、王星光 阿拉伯信息通信技术组织纳达·拉阿比迪 巴西南大河州联邦大学埃德森·普雷斯带 北京大学杨耀东 北京印象笔记科技有限公司乔迁 北京金山云网络技术有限公司西京京 德国明斯特大学伯纳德·霍尔蒸纳格尔 北京邮电大学杨忠良 德国幕尼黑工业大学克里斯托夫·吕特格 伏菱智库李娜 金砖国家未来网络研究院（中国·深圳）周原 杭州安恒信息技术股份有限公司王欣，李华伟 联想（北京）有限公司胡永启 lQuilibriumAl希梅娜·索菲亚·比维罗斯·阿尔瓦雷斯 联合国教科文组织驻东亚代表处刘唱、夏和华 联合国大学澳门研究所塞尔日·斯廷克维奇 南开大学陶锋 清华大学 上海诺基亚贝尔股份有限公司王影、叶晨晖 人民网股份有限公司谷文杰 上海稀宇极智科技有限公司彭超 上海人工智能实验室乔宇 世界互联网大会昊、张雪丽 源圳市腾讯计算机系统有限公司邓雯洁、翟家欢，李大任、王梦黄、曹建峰 乌兹别克斯坦高等教育科学和创新部人工智能咨询委员会艾墨·尤纳斯 斯里兰卡计算机应急响应中心 尼岁沙·阿南达，查鲁卡·塞纳尔·达穆势波拉 香港科技大学冯雁 香港岭南大学姚新 央视国际网络有限公司程明 香港中文大学蒙美玲、张寄翼 英国南安普散大学温迪·霍尔 云安全联盟约翰·杨 中国电信集团有限公司（天翼智库）陈风仙、刘威辰、王峰 中关村实验室谭知行 中国互联网络信息中心陈品品 中国电子技术标准化研究院张妍婷 中国联合网络通信集团有限公司围凯 中国人民大学龚新奇 中国社会科学院哲学研究所段伟文 中国网络空间安全协会王健兵、夏文辉 中国信息通信研究院呼娜英，郭苏敏 中兴通讯股份有限公司孟伟 中国政法大学张凌塞 中国移动研究院（中移智库）林琳、吴淑燕、刘玥、赵英、邓洁 360集团肖荐午 编写团队 中国科学院自动化研究所人工智能安全与超级对齐北京市重点实验室北京人工智能安全与治理实验室普毅、鲁恩萌、范津宇、皇甫存青 中国科学院大学王金、王正奇、郭晓阳 世界互联网大会康彦荣、韩开宇 联系邮箱research@wicinternet.org 前言 当前，人工智能(AI)技术正迅速发展，深刻影响全球经济、社会和环境的各个方面，成为推动可持续发展的关键驱动力。其中，人工智能治理既为人工智能有效赋能可持续发展目标（SDGs)提供了方向指引，又为防范人工智能可能对可持续发展进程带来的负面影响和风险提供了有力保障。2024年，联合国大会相继通过两项决议，推动完善全球人工智能治理，加快落实可持续发展议程；《全球数字契约》将弥合数字鸿沟加快可持续发展和加强人工智能国际治理，造福人类作为目标。 世界互联网大会依托人工智能专业委员会安全与治理推进计划，广泛汇聚国内外人工智能领域国际组织、高校、智库、行业协会及领军企业专家，共同开展人工智能治理与可持续发展联合研究，力求凝聚国际共识，加速议题求解，推动人工智能更好造福人类社会。 本报告介绍了人工智能赋能可持续发展的全球进程、当前进展与现存问题，并从如何通过普惠包容的人工智能发展与治理弥合数字鸿沟和推动人工智能能力建设两方面进行分析阐述，最后从深化面向可持续发展的人工智能治理国际合作出发，提出加速赋能全球可持续发展的行动建议，梳理实践案例；旨在为各国政府、企业和学术界提供参考，为加速人工智能赋能全球可持续发展目标贡献智慧与力量。 目录 01 （一)可持续发展是兼顾多方的综合过程01（二）人工智能极大影响可持续发展进程02(三）促进赋能可持续发展是全球人工智能治理共0 3 05 一）人工智能赋能可持续发展的现状与进展0.5（二）人工智能赋能可持续发展中的现存问题0 6 08 (一）从数字鸿沟到智能鸿沟-8 0(二)释放人工智能潜力促进数字素养提升-6 0(三)构建更加普惠和有活力的人工智能研发与应用生态09 一）发展中国家在推动人工智能赋能可持续目标上面临的困项（二）人工智能能力建设国际合作为加速赋能可持续发展提供历史性机1 2（三）探索可负担可持续的人工智能能力建设国际合作原则 （一）全面推进人工智能能可持续发展目标的实现（二】推进人工智能赋能可持续发展的普惠性(三）推进人工智能赋能可持续发展的包容性4(四与中低收入国家共同探索可负担、可持续的能力建设模式（五）以国际治理多边合作机制为人工智能赋能可持续发展提供保障1.5 附录人工智能治理与可持续发展应用与实践案例 可持续发展与人工智能治理：全球进程 2015年，联合国大会通过了《改变我们的世界—2030年可持续发展议程》（《2030年议程》或《2030年可持续发展议程》）"。当前，《2030年议程》实施已过去三分之二，但目标实现面临严峻挑战。而人工智能作为近十年最具颠覆性的技术突破，既为实现可持续发展目标带来重大机遇，也带来了多重挑战。通过人工智能治理为可持续发展目标提供引导与保障已成为关乎人类共同未来的紧迫任务。 （一）可持续发展是兼顾多方的综合过程 17个可持续发展目标是不可分割的整体，它们兼顾了可持续发展的三个方面：经济、社会与环境。可持续发展目标包含产业、创新和基础设施(目标9)等经济目标，优质教育(目标4)等社会目标以及水下生物(目标14)等环境目标。同时，根据图1可以看出，任何一个目标都是复杂的，不仅关联自已所在的领域，更存在跨领域的深度交织，这意味看责献于任何一个目标的实现，都可能同时带动其他相关目标。 可持续发展是指既满足当代人的需求，又不损害后代人满足其需求的能力的发展模式3。2015年，联合国举办了可持续发展峰会，193个联合国会员国一致通过了《改变我们的世界2030年可持续发展议程》"。该议程为全球设定了17个目标，包括消除饥饿、良好教育、性别平等、健康福、应对气候变化、促进可持续经济增长等多个方面。17个可持续发展目标是人类的共同愿景，也是世界各国领导人与各国人民之间达成的社会契约“。 可持续发展目标带来压力：人工智能目前的技术路径的算力需求可能造成能源负担12，增加碳排放量；人工智能硬件的快速选代可能导致电子废弃物堆积。此外，人工智能给平等包容带来挑战，表现在：人工智能本身的数据偏见与算法偏见有引入或固化歧视的风险，导致误解与不信任"；人工智能的广泛应用向劳动者提出新要求，可能引发结构性失业4；技术与数据集中在少数国家手中，进一步扩大南北差距。在安全方面，人工智能的内容生成与输出能力可能操纵舆论，产生虚假与欺骗性内容，对个人或群体带来伤害1"；强大的人工智能可能被溢用、恶用或误用，例如可能增加网络攻击与生物恐怖主义的风险"，可能在军事行动中造成人道主义挑战，可能加剧隐私侵权与版权侵权等；此外，人工智能系统自身的故障或失控也可能导致风险。这些挑战与风险给可持续发展目标的实现带来了新的难题。 在导求可持续发展过程中，发展中国家与发达国家共同肩负责任，但由于历史原因、发展水平和能力等方面的差异，发展中国家与发达国家的贵任和义务有所不同。在新冠疫情、地缘政治冲突、气候变化等多重因素的影响下，发展中国家面临发展资金短缺、债务风险上升等挑战"。《2030年议程指出，国际社会应当为发展中国家提供更多援助与支持，以实现全球公平与包容的可持续发展。 （二）人工智能极大影可持续发展进程 人工智能是加速可持续发展进程的重大机遇。作为过去十年来最深刻影响人类社会的颠覆性赠能技术，人工智能从不同角度为可持续发展提供新的可能。在经济方面，人工智能作为新型生产要素，能促进产业创新与转型"，提供新的就业机会。在社会方面，人工智能促进教育“、医疗等公共服务的公平普惠，向发展中国家、偏远地区与弱势人群输送优质资源。在环境方面，人工智能助力绿色革命”，帮助实现节能减排，优化资源配置。在科学方面，人工智能在生物医药”、地球科学1°、物种多样性保护11等领域展现突破性潜力，通过科技创新为全球性挑战提供新的解决方案。 总之，快速发展的人工智能正以前所未有的深度和广度重塑人类社会，其治理的紧迫性日益凸显。只有要善治理人工智能的风险，人类才能安全、充分地从中获益"。人工智能治理的核心在于通过制度性框架实现技术红利最大化与社会风险最小化的动态平衡，确保智能向善，防止误用、滥用和恶用。这不仅是防范技术异化的安全底线，更是确保人工智能始终服务于人类文明进步和社会生态福证"的价值基石。 然而，人工智能也对可持续发展目标的实现带来诸多挑战。例如，人工智能可能对气候与环境的 契约》"采纳。全球数字契约》提出了包括“弥合所有数字鸿沟，加快在实现客项可持续发展目标方面取得进展”和“加强人工智能国际治理，造福人类"在内的五项目标，通过一系列承诺和行动来加强国际合作推进全球数字治理，为人工智能促进可持续发展目标提供了框架性支撑。 （三）促进赋能可持续发展是全球人工智能治理共识 人工智能在赋能可持续发展中的应用是机遇与挑战并存的正向实践，有效的治理为其提供了引导与保障。包括欧盟《人工智能法》1在内的法律框架，以及中国《人工智能安全治理框架》"和美国《人工智能风险管理框架》"在内的治理框架，采取了基于风险进行分类和监管的方式；而中国《生成式人工智能服务管理哲行办法》*人工智能生成合成内容标识方法》和新加坡《生成式人工智能治理模型框架》等则针对生成式人工智能技术广泛应用的现实情况进行专门的监管与治理。这些工作为促进技术有序发展与赋能、防范滥用与恶用提供了有益参考，为各国以负责任方式应对人工智能技术的多重影响提供了借鉴。 此外，联合国教科文组织于2021年发表《人工智能伦理问题建议书》"，强调人工智能对社会、环境、生态系统及人类生活的深远影响，并积极支持"全球南方”国家平等参与人工智能国际治理与对话。世界卫生组织于2024年发布《大型多模态模型的卫生人工智能伦理与治理指导意见》"，关注人工智能在医疗领域中增进人类福。国际电信联盟通过发起“人工智能向善”系列倡议，聚焦人工智能技术在实际场景中的创新应用，以如快实现可持续发展目标，在全球范围内扩大人工智能解决方案。 联合国将人工智能赋能可持续发展作为近年来的关键议题。联合国大会于2024年先后通过"抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展与“加强人工智能能力建设国际合作”两项决议，引导与保障人工智能技术服务于可持续发展目标的实现。联合国人工智能高级别咨询机构发布《治理人工智能，助力造福人类》最终报告”，强调治理可成为推动人工智能创新促进全球实现可持续发展目标的关键因素，并为此提出了多项具体建议，包括成立国际人工智能科学小组和建立人工智能治理全球对话机制来探讨人工智能有助于实现可持续发展目标的领域，部分相关建议被2024年9月联合国未来峰会正式通过的全球数字 各多边机制和对话平台不断完善治理框架，推动人工智能赋能可持续发展。经济合作与发展组织提供多学科、基于证据的政策分析和数据，以促进普惠与可持续的发展与变革，实现可持续和包容的未来"。二十国集团（G20)于2019年批准（G20人工智能原则》1，强调人工智能研发需遵循以人为中心的发展理念。2023年新德里峰会1"进一步呼吁建立以人为中心”的人工智能治理框架，尤其重视发展中国家在技术应用中的公平性问题。欧盟认为人工智能技术对实现“碳中和"目标有重要意义，通过《人工智能协调计划》1*与《包装和包装废物条例》15等，鼓励 通过人工智能技术发展气候预测模型和智能电网，改善工业设计，促进循环经济与绿色转型。亚太经合组织在《布特拉加亚愿景20403中主张缩小数字鸿沟，深化包容性合作，通过良好的发展与治理实现可持续。上海合作组织发布（上海合作组织成员国元首理事会阿斯塔纳宣言》"，将2025年定为“可持续发展年”，倡导抓住数字转型机遇