超级智能时代的风险转变与伦理应对研究报告

一、人工智能伦理的演进

• 轨迹：人工智能伦理经历了制度化、法律化和工程化三次重大转变，旨在克服伦理原则缺乏约束力的固有脆弱性。
• 涌现特征：人工智能伦理逐渐从追求自由规律的学术导向转向法律化、制度化及工程化倾向。
• 转型：人工智能伦理可分为技术导向型和人文导向型，其发展需要从“产品”思维转向“实践”思维。
• 基于场景的AI伦理：关注应用场景中的关键痛点、能力边界和全生命周期产生的伦理问题，与欧盟人工智能法案所代表的分层级风险治理模式密切相关。
• 基于技术挑战的AI伦理：关注AI系统在设计、训练、部署和使用过程中出现的典型技术和治理挑战，核心关切包括算法不透明性、偏见与歧视，以及责任不可追溯性。
• 基于技术能力的AI伦理：根据AI系统的智能水平、自主性与行动范围来划分伦理要求，通常区分人工智能狭义（ANI）、通用人工智能（AGI）和超级人工智能（ASI）。
• 基于全生命周期的AI伦理：旨在贯穿AI研发和部署的整个流程，嵌入伦理要求，包括规划与设计、数据收集与准备、模型训练、性能评估、部署与监控，以及对业务问题的理解。
• 基于解释学的AI伦理：关注技术如何转变人类理解方式和生活形态，提醒我们AI治理不能仅依赖原则、指标和程序；它也必须深入具体情境和人的日常生活中。
• 人文批判导向的AI伦理：考察AI系统从一开始就如何嵌入经济结构、治理逻辑和权力关系之中，AI中的伦理问题不仅仅是设计缺陷或合规不足，还涉及权力技术性重构、算法资本集中，以及自动化治理可能对弱势群体造成的结构性危害。
• 基于人机关系的AI伦理：关注人与AI之间的互动、共存与协作，探讨在人与AI共同感知、判断、行动和共存时，责任、信任、权威和控制如何被重新分配。

二、ASI时代的风险特征

• 传统人工智能风险研究的方法论与局限性：主流人工智能风险评估采用“识别—量化—治理”模型，但该模型在ASI时代面临挑战，因为ASI带来的风险是本体论层面的，而不仅仅是工具性的。
• 新发案例与新兴治理挑战：人工智能风险已演变为一种本体结构——球形风险，其特征包括存在方式、生命形式以及存在演化轨迹的转变，以及系统性风险。
• 从传统风险理论到球面风险理论：传统风险理论的基础预设开始瓦解，风险不再有明确的边界，而是随着持续的人机交互动态涌现，其概率无法合理估计，后果难以进行简单比较。

三、智能合约伦理的理论维度

• 社会契约伦理：回归社会契约理论的知识史，并以此为坚实的基石，来理解ASI所提出的人类-AI关系。
• 智能合约：重构了人-AI连续性理论，将传统上局限于人类之间关系的契约理论，扩展到与智能机器的契约工程之中。
• 数字合同的执行困境：现行的国际法律体系、多边条约框架以及国际组织的决策机制缺乏强制执行力与有效制裁措施，导致数字合同陷入实际困境。

四、智能合约伦理的实践路径

• 多方利益相关方人工智能伦理委员会 (MAEC)：作为解决人工智能伦理冲突的最高常设审判机构，其构成必须反映多元观点的均衡代表。
• 异步神经符号双轨架构：包含价值感知层、技术规格层、算法实现层和试点评估层，将人工智能的实时感知与人类的制度性审议相结合。
• 最小可行逻辑 (MVL)：涵盖道德摩擦的三种计算步骤，包括监控、翻译和暂停。
• 从监控到裁决的闭环审议流程：当人工智能系统检测到其既定逻辑框架内无法自主解决的伦理冲突时，MAEC对那些在逻辑层面无法实现拓扑等价的命题进行审议，并作出最终裁决。
• 实施时间表：分为基础建设、区域试点和全球拓展三个渐进阶段，旨在控制风险并逐步积累治理经验。

五、针对球形风险的伦理型人工智能

• “契约人”（Homo Contractualis）：将契约精神内化于其存在方式中的任何存在物，包括增强型人类（Augmented Sapiens）、契约型守望者（Contractual Watchkeepers）和生态保护区居民。
• 伦理学家AI：一个仲裁与监督系统，其功能在于当契约条款模糊不清、相互冲突或无效时，提供具有约束力的裁决。
• 时间治理伦理AI：关注风险变化的时效性，强调在风险尚轻微时便加以解决，以防止其蔓延至更严重的阶段。

六、结论

• 智能合约伦理：为人类主体性提供数字基础，通过契约伦理建立机器关系，并为未来的人机共生社会提供理论基础。
• 伦理学家AI：代表实施智能合约伦理的实用范式，确保任何人——无论是人类还是超智能体——都无法单方面宣称“讨论结束了”。
• 人机互惠、动态协商：智能合约伦理的目标是构建一个“人机互惠、动态协商”的数字社会契约，通过持续、艰难却尊严的谈判，共同回答“我们该如何生活？”这个古老的问题。