数字化转型：影响与依赖

一、已识别的数字和人工智能依赖

• 无尽的需求和投资：全球数字转型支出预计将以每年16.1%的速度增长，到2027年将达到约3.9万亿美元。智能基础设施、数据中心等新设备的建设需要大量投资，而技术过时也带来了持续的成本压力。
• 能源和环境使用及成本不可控：数字技术占全球温室气体排放的4%，相当于民用航空业的两倍。数据中心能耗预计将在2024年至2026年之间翻一番，而能源效率的提升未能抵消能耗增长。电子设备的制造和材料提取也需要大量能源，其“隐含能源”在总能耗中占比很大。数字系统的能源和环境成本难以控制，其增长与AI转型似乎难以持续。

二、人类和社会影响

• 工作场所的变化：AI对劳动力市场的影响已很明显，一些职业面临被取代的风险，而另一些职业则可能被创造出来。数字鸿沟问题依然存在，数字素养不足的工人面临失业风险。远程工作虽然提高了员工的工作生活平衡，但也带来了人际交往减少、技能获取困难等问题。
• 被低估的伦理成本：数字技术，尤其是AI，可能侵犯个人自由，通过算法中的认知偏差和个体活动的可追溯性来限制选择和思想自由。自由表达也受到威胁，算法的标准化可能导致观点单一化，甚至形成“政治正确”的审查。数字技术还可能加剧不平等，例如教育领域的内容和语言偏差。
• 法律问题：AI生成内容的版权归属问题尚未解决，电子签名的法律效力也受到质疑。个人数据的所有权和使用权也需要明确，目前数据正被大公司以免费服务为代价进行收集和交易。数字技术的应用需要法律框架的更新，以适应新的技术和实践。
• 不平等加剧：数字鸿沟不仅指技术能力和素养的差距，还包括对工具的驾驭能力和使用目的的差异。数字技术可能加剧现有的社会偏见，例如教育领域的内容和语言偏差。
• 全数字方法的个人和集体后果：数字技术对人类互动产生了直接影响，例如慈善行为的匿名性受到挑战。算法的决策过程缺乏人情味，可能导致个体情况的忽视和人类特征的削弱。过度使用数字工具可能对心理健康和认知能力产生负面影响，例如网络欺凌、儿童发展问题和学习能力的下降。社交媒体还可能对年轻人的行为产生负面影响，例如心理压力和社会规范。

三、预防数字和人工智能依赖的风险

• 主权和民主：数字转型可能导致主权问题，例如依赖外国公司的技术和服务。数字市场由少数大公司垄断，可能导致政治影响力过度集中，并威胁到民主制度。数字技术还可能加剧社会分裂，并促进阴谋论和虚假信息的传播。
• 教育：核心支柱：数字技术可以支持学习，但不能取代人类教师。教育不应完全数字化，而应与传统教学方法相结合。需要发展数字素养教育，以帮助人们评估信息的可靠性。还需要解决数字鸿沟问题，确保所有人都能平等地获得数字教育。
• 发展批判性思维能力：在信息过载的时代，批判性思维能力比以往任何时候都重要。需要从早期教育开始培养批判性思维能力，以帮助人们区分真伪信息，并做出明智的判断。
• 实践设计伦理：需要将伦理原则纳入算法的设计和部署过程中，以避免潜在的伦理风险。例如，要求广告商明确说明内容是由AI生成的。

四、建立新方法

• 发展灵活的全球数字规则：需要建立一套全球数字治理规则，以应对AI带来的挑战。国际组织已经提出了相关原则，例如保护人类自主权、促进人类福祉和公共利益。
• 通过保持替代方案来避免危机：需要制定备用计划，以应对数字技术和AI的故障和中断。例如，需要保留非数字解决方案，以确保在数字系统失效时社会仍能正常运转。

五、建议

• 提高对技术过时和竞争的认识，并将其纳入连续性计划。
• 设计能源和资源效率更高的算法。
• 通过公共政策和职业培训支持劳动力市场的结构性变化。
• 修改知识产权法律框架，以适应AI生成内容。
• 避免对数字技术的教条态度，并将其用于为人类工作增加价值。
• 帮助个人区分真、伪和相对信息。
• 在算法开发过程中实施设计伦理。
• 最大限度地减少对外国法律管辖的数字服务的依赖。
• 鼓励法国数字专业人士在法国发展事业。
• 为建立非强制性的国际公约奠定基础，以制定数字技术和AI治理原则。
• 发展辅助原则，以避免依赖，并提供替代方案以确保运营和维护技能。