2024年中国人工智能伦理挑战白皮书

目录 （ 8) 未来的伦理演进与 AI - 45 ° 定律的探索60 （ 1) 金砖国家应正视人工智能的伦理风险62（ 二) 金砖国家需要合作应对共同挑战63 序言 1 参考文献67 一、人工智能正在崛起 ， 而风险防范是需要的 4 Appendix69 （ 1) 数字经济的发展促进了 AI 的整体增长。4（ 2) 人工智能正在快速发展 ， 并融入许多行业6（ 3) 中国人工智能的快速应用及其发展吸引了全球关注9（ 4) 伦理规范有利于人工智能的长期稳定性15 II. 从另一座山取出的石头可以作为我们从高级专业知识中学习的工具来打磨当地的玉器22（ 1) 国际人工智能伦理研究现状23 （ 2) 国际人工智能伦理学研究的贡献和未来方向24（ 3) 全球主要国家人工智能政策25（ 4) 全球思想领袖的观点29（ 5) 全球领先企业的选择与动态32 III. 时刻警惕潜在危险以消除 伦理风险39 （ 1) 随着社会和技术的进步 ， 确保 AI 伦理的概念与时俱进。39（ 2) 加强监管 ， 防范失控风险40（ 3) 完善法规 ， 消除侵权风险43（ 4) 确保透明度和公平性 ， 避免歧视风险46（ 五) 加强培训教育 ， 降低失业风险49（ 6) 促进公平政策和广泛合作 ， 消除数字鸿沟风险52（ 7) 制定指导原则 ， 降低道德价值观侵蚀风险56 “领导者”效应更为显著，这对行业的健康发展和人民福祉具有重要意义。在智能化时代，人机关系将重新定义。因此，在国务院关于新 generation 人工智能发展规划的通知中特别强调，应为自动驾驶、在线医疗、金融科技、智能分发等领域建立监管框架，并完善相关法律法规和伦理审查规则。 序言 在2023年，中国经济和社会发展面临前所未有的风险和挑战，这主要是由于国内外多重因素的过度预期。中国的数字经济克服了许多困难并取得了显著进展，人工智能（AI）犹如璀璨的宝石，在各行各业得到了广泛应用，突显了新技术高质量生产力对经济的促进作用及其对人类文明发展的推动。AI的突破性成果导致其应用迅速扩展，成为数字经济增长的新引擎，并在通信行业等数字基础设施方面取得了重大进展。此外，数字经济为AI的技术进步带来了新的需求和广阔的市场空间，使AI成为我们生活中不可或缺的一部分。从智能手机到自动驾驶车辆，再到医疗诊断和金融交易，AI的应用已经渗透到社会的各个角落。然而，尽管AI技术的应用为人们的生活和工作带来了便利，但也带来了一系列伦理风险和挑战。正是在这种背景下，AI伦理研究应运而生，其目的是探索并界定其道德边界。 国家新一代人工智能治理专业委员会于2021年9月25日发布了《新一代人工智能伦理规范》，旨在将伦理融入人工智能的整个生命周期，并为从事相关活动的自然人、法人及其他有关机构提供伦理指导。 这份报告首先描述了2023年AI的数字环境，这是AI技术进步的结果，同时也反映了推动其发展的广泛需求。在多个案例研究中还讨论了与AI伦理问题相关的冲突，以提高人们的意识。在接下来的部分中，介绍了常见的AI应用，并展示了中国蓬勃发展的AI社会在2023年的景象。此外，报告还介绍了AI伦理的内涵、研究范围、其他国家的AI发展情况、各国的政策、以及思想领袖和领先企业对AI伦理的看法。 人工智能伦理研究是一个跨学科领域，旨在探索人工智能带来的伦理问题和风险。该领域涉及研究和解决与人工智能相关的伦理问题，以促进其更好地使用并引导其健康发展。这一研究领域涵盖了哲学、计算机科学、法律和经济学等多个学科的交叉融合。 然后，在本报告中，我们具体描述了其应用伴随的潜在AI相关风险，重点关注两个方面：应用性能的优势和风险。我们谨慎地认为，在未来平衡两者的人工智能-45°发展法则可能是人类的选择，并就预防和应对措施给出建议供读者考虑。 中国促进办公室于2019年设立了新一代人工智能治理专业委员会，全面负责开展相关政策体系、法律法规和伦理规范的研究与推广工作。这反映了中国对人工智能伦理及其治理的高度关注和积极推广的决心，并突显了这一问题的重要性。对未来人工智能伦理规范的研究与制定将有助于更好地利用其潜力。 最终，考虑到AI在BRICS国家蓬勃发展，我们提出一些建议。我们认为，在这个快速变化的时代，BRICS国家正在成长、发展，并在全球政治和经济舞台上发挥越来越重要的作用。在人工智能这一科技高地上达成共识并开展合作，能够有效避免AI带来的伦理风险，并极大地促进BRICS国家的经济增长和社会进步。 写作小组成员 I. 在需要风险预防的同时 ， AI 正在崛起 领导组织: 2023年AI的迅猛发展标志着人类生产力的飞跃。一方面，AI直接促进了数字基础设施的建设，极大地增强了数字经济的发展空间；另一方面，数字经济的强大需求推动了AI的研发，而数字经济的巨大市场也为AI提供了无尽的实验领域。在此背景下，对AI伦理问题的研究也随之展开。 中国联通研究院中国联通环球有限公司 专家咨询委员会成员 ： 中国联合网络通信集团有限公司副总裁唐永波. 陈舒森，中国联合宽带有限公司总经理。李鸿武，中国联合研究院副院长。陈辉，未来网络BRICS研究院（深圳）院长。魏进武，中国联合研究院副总裁。张礼仁，未来网络BRICS研究院（深圳）副总裁。 （ 1) 数字经济的发展促进了 AI 的整体增长。 2023年是数字中国战略深入实施的关键一年，为数字中国的建设奠定了更加坚实的基础，并对推动经济和社会发展产生了更为显著的效果。 写作小组成员 ： 康琪、刘亚琪、金春华、吴刚、吕金宝、傅玉玉、余东海 1. 数字基础设施扩展加速 参与组织 ： 网络基础设施进入加速升级的新阶段。5G网络实现了更广泛的覆盖范围和更先进的技术，并加快了对关键站点的深入扩展。截至2023年底，5G基站数量达到337.7万个，同比增长46.1%；每10,000人平均拥有5G基站数为24个，较上年末增加了7.6个百分点；5G手机用户数达到8.05亿，占总手机用户数的46.6%；5G虚拟专网数量超过3万个。基础电信企业的IP骨干网、城域网和接入网的IPv6升级改造已全部完成，国家网络基础设施全面支持IPv6。截至2023年底，活跃的IPv6用户数达到7.78亿。 金砖国家未来网络研究院中国分会 模型和其他创新正迅速涌现。类人机器人进入了快速发展阶段，专利申请数量快速增长。核心人工智能企业数量超过4500家。量子计算机、脑机接口及其他前沿技术的研发工作正在加速推进。 移动网络流量达到 60.88% ， 固定网络 IPv6 流量占比达到 19.57% 。 计算基础设施达到世界领先水平。到2023年底，中国在用的数据中心标准机架超过81万个，总计算能力达到230 EFLOPS，位居世界第二。正在实施的国家级计算枢纽节点有8个。计算能力供应结构逐渐优化，包括数据中心、智能计算中心、超级计算机中心等多种类型。到2023年底，智能计算能力的规模达到70 EFLOPS，同比增长率超过70%。全国共建设了14个国家超级计算机中心，全国在用的超大型和大型数据中心数量达到633个。智能计算中心的数量达到60个（配备超过500块AI卡），智能计算能力的比例超过30%。 计算能力网络取得了重大飞跃。国家“东算西移”战略（将更多的计算资源从东部地区转移到欠发达的西部地区）已积极实施，全国计算网络的布局持续改善。截至2023年底，三大基础电信企业为公众提供的数据中心机架数量达到970,000个，较上一年末净增加152,000个，几乎是上一年净增加量的两倍。可向公众提供的基本计算能力规模超过26 EFlops（每秒二十亿亿次浮点运算）。 构建 AI 基础设施系统。一种结合内部应用和外部赋能的方法被用于探索新的AI应用场景，并促进“云、网、智”融合发展，以实现向“AI+”战略的全面转型。人工智能和大数据技术已在网络运营的各个方面得到引入，包括网络规划、建设、维护和优化。这些努力提升了网络智能化水平，降低了网络故障率，节约了基站能耗，并优化了信号覆盖。三大基础电信企业积极构建了“1通用+N专用”模型相结合的大规模模型系统，通用模型参数量已达到数百亿级别。工业级大规模模型可以应用于政府事务、应急响应、文化旅游等领域。 2. 数字技术创新展现新活力 基础数字技术的容量持续增长。数字技术领域保持着较高的创新热情。先进计算、 AI等核心技术不断取得突破。高性能计算继续成为全球第一要务。智能芯片 ， 广义大 （ 2) 人工智能正在快速发展 ， 并融入许多行业 在2023年，人工智能领域发生了许多重大事件，这些事件深刻影响了我们的生活和社会。2023年被称为“人工智能时代的开端之年”，人工智能技术的创新与应用取得了突飞猛进的发展。生成式人工智能的出现是最具代表性的进展之一，例如OpenAI的ChatGPT订阅版、NVIDIA的BioNeMo平台以及AWS的“AI就绪”培训计划。这些技术改变了人工智能技术与应用的道路，加速了人机交互的过程，并成为人工智能发展史上的新里程碑。特别是随着ChatGPT的爆炸性流行，全球见证了人工智能技术的突破性发展和广泛应用。以下是世界各地人工智能应用的发展情况： 更多。 AI 协助专业人员开展工作 ， 提高工作效率和质量。 自 2023 年以来 ， 人工智能在全球范围内取得了重大进展 ， 为人类带来了许多便利和价值。 1. 各行业与人工智能的融合：人工智能技术日益应用于金融、医疗、教育、交通等领域，带来更加高效和智能化的解决方案。 2. 大模型的发展：随着深度学习技术的不断进步，大型神经网络模型在各个领域取得了显著成果，提高了人工智能的准确性和泛化能力。 3. 多学科融合与创新：人工智能技术与其他领域（如生物学、物理学、心理学等）的整合加深，推动了各行业的创新与发展。 4. 强人工智能的发展：人工智能正逐渐向强人工智能演变，能够理解、思考和感知，并在某些方面超越人类的能力。 5. 人工智能与人类协作：人工智能技术逐渐与人类形成协同关系，例如在医疗、法律、教育等领域。 在人工智能领域，不仅在技术研究上实现了重大突破，还在工业发展和国际合作中展现了实力和影响力。 1. 政策支持和战略规划 在中国，2023年2月26日，中国政府发布了国家数字发展总体布局计划，强调了人工智能在数字化转型中的重要性。 到2025年，将形成横向联通、纵向衔接、高度协同的整合推广模式，并在数字中国建设方面取得重要进展。到2035年，数字化发展水平将达到世界领先行列，数字中国建设将取得显著成就。 计划的主要内容包括：加快数字基础设施高效连接的发展；加速数据资源规模和质量的提升；显著提高数字经济的质量和效率；政府事务的数字化和智能化；数字文化达到新高度；数字社会更加精准、包容和便利；数字生态文明建设取得进展；数字技术创新实现重大突破；全面提升数字安全与保障能力。 《新一代人工智能发展规划》由国务院于2017年发布。国家发展和改革委员会、科学技术部和工业和信息化部共同负责实施。该规划明确了中国新一代人工智能发展的战略目标、关键任务和保障措施，为促进人工智能技术的广泛应用和产业化提供了政策指导。《新一代人工智能发展规划》提出了“三步走”的立法计划。在“国务院2023年度立法” （ 3) 中国人工智能的快速应用及其发展吸引了全球关注 自 2023 年以来 ， 中国在该领域取得了显著进展和成就 工作计划”于2023年6月6日发布，其中明确将AI立法纳入立法计划。2023年8月，世界上第一部关于生成式人工智能的法定法规《生成式人工智能服务管理暂行办法》正式生效。中央办公厅和国务院办公厅于2022年发布了《关于加强科技伦理和治理的意见》，并于2023年由科技部（负责该领域的关键组织）及其他相关部门（包括国家发展和改革委员会、教育部和工业和信息化部）实施。这些部门合作推动了科技伦理和治理。针对AI技术发展中可能面临的伦理风险，他们提出了加强科技