全球人工智能发展与监管体系
全球人工智能发展迅速，应用领域广泛，市场规模预计将在未来十年内出现强劲增长。截至 2024 年，全球共有 69 个国家和地区制定了人工智能相关政策和立法，涵盖 AI 治理、隐私保护、数据监管到伦理规范等广泛主题。
欧盟人工智能发展
欧盟《人工智能法案》是全球首部全面且具影响力的人工智能法规，将人工智能系统分为最低风险、低风险、高风险和不可接受风险这四级，并采取了基于风险的方法进行监管。此外，欧盟委员会正在制定《人工智能责任指令》，旨在为人工智能系统造成的非合同类责任的特定类型损害提供统一规则。
美国人工智能发展
美国正在选择一种针对特定行业的方法。例如，《2023 年算法问责法案》草案为受人工智能系统影响的人们提供了新的保护措施，要求高风险人工智能系统的开发者向部署者披露有关高风险系统的特定信息，并要求部署者实施风险管理政策和程序。此外，美国一些州也已经在人工智能相关领域制定监管法律，规范人工智能在招聘和晋升中的使用。
中国人工智能发展
中国尚未出台人工智能专门立法，但已初步建立限制和规范人工智能开发与应用的法律框架，即以《网络安全法》《数据安全法》《个人信息保护法》以及《科学技术进步法》为基础，由《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等一系列规范文件发挥主要监管作用。
“可信人工智能”概念提出
“可信人工智能”被定义为设计、开发和部署技术可靠、安全，能够输出不带歧视和偏见的公正结果，基本原理和运行过程透明，可问责且以人为本的人工智能系统。
人工智能的可信原则
安永认为可信人工智能应遵循问责性、合规性、可解释性、公平性等原则。
可信人工智能的关键问题
- 算法黑箱与信息茧房问题：算法的不透明性影响了用户体验，并可能导致用户陷入信息茧房。
- 算法偏见问题：训练数据的不均衡或算法设计的不完善，导致系统输出结果可能带有不公平性。
- 数据安全问题：数据源获取的合法性、数据泄露、出海涉及相关数据出境规制等问题，都威胁着数据安全。
- 内生安全问题：人工智能基础设施安全风险、数据安全风险、模型安全风险、应用服务安全风险等问题，都可能导致系统安全性和用户隐私受损。
- 科技伦理问题：人工智能技术的应用可能引发自然人的知情权、选择权、公平交易权以及未成年人和老年人群体的合法权益受损，从而导致大数据杀熟、沉迷消费、服务歧视等伦理问题。
企业级 AI 的合规要求
- 资质监管要求：人工智能相关企业需要取得互联网信息服务基础资质和提供具体服务的特殊资质。
- 算法合规要求：包括算法备案、算法评估和算法透明性要求。
- 内容合规要求：包括生成内容审核义务、生成内容标识义务和建立投诉举报机制。
人工智能风险治理
- 风险治理架构：旨在构建一套周详而立体的体系，强化对人工智能潜在风险的管控效能，并提升人工智能技术的可靠性与责任感。
- 生命周期风险治理：在人工智能生命周期中，从问题识别、数据准备、模型训练、模型部署到模型迭代和模型退役，都需要建立全面的风险治理机制。
- 人员风险治理：确保人工智能系统的开发者、使用者和监管者具备足够的知识和能力来理解、管理和监督人工智能系统。
企业 AI 治理进阶工具
- AI 治理国际标准：ISO 42001 人工智能管理体系标准为组织提供 AI 治理的框架，以负责任和有效地管理其人工智能技术。
- AI 治理可信等级管理：可信 AI 治理等级标识标准将人工智能管理体系要求划分为三个级别，更好地满足不同程度的 AI 风险管理需求。
行业洞察与 AI 治理情况调研
- 汽车行业：人工智能技术在车辆研发、智能工厂、市场营销、用户服务等多个方面得到应用，但面临着数据隐私、算法透明度、法规遵从和兼容性等挑战。
- 医药行业：人工智能技术在药物研发、医疗影像分析、电子健康记录分析等方面得到广泛应用，但面临着数据隐私、算法偏见、责任归属等挑战。
- 零售行业：人工智能技术在研发设计、生产制造、经营管理、客户服务等方面得到应用，但面临着技术基础、数据管理、数据安全和隐私保护、伦理以及与长期业务战略融合等挑战。
- 服务行业：人工智能技术在客户服务自动化、个性化推荐、风险管理和欺诈检测等领域得到应用，但面临着技术、伦理、法律、社会和经济等多方面的挑战。
AI 应用的典型案例
- 某互联网平台公司：人工智能技术应用于用户对话导购、风控和资质审核、数据分析、客服对话、图片生成等方面，并通过模型训练系统、模型实验室系统、大模型评测等机制进行模型安全管理。
- 某汽车公司：人工智能技术应用于智能座舱、自动驾驶、智能运维、智能充电等方面，并通过任务导向基准测试方法和虚拟环境测试进行智能驾驶辅助系统性能评估。
