2024年数字电网人工智能系统操作行为评估

人工智能发展带来的风险思考

• 国际组织（ISOIEC、联合国、OECD）关注AI风险，截至2023年12月全球记录AI风险事件超495起，包括ChatGPT数据泄露、AI机器人伤人等事件。
• 发达国家（美、日）视AI风险为政治问题，强调政策制定者的权威性，但全球风险治理仍地域分散，需构建全球AI生态系统。

生成式AI在数字电网中的潜在风险

• 生成式AI在电力系统感知、决策方面潜力巨大，但深度神经网络模型存在可解释性不足、逻辑判断偏差（如“幻觉”判断）等问题。
• 电网运行对AI模型的可控性与可信度要求极高，强AI的复杂性（独立意志）加剧应用风险。

应对风险的措施与建议

• 国际倡议（联合国《GoverningAIforHumanity》、中国《全球人工智能治理倡议》、欧盟《人工智能法案》）强调对话合作与安全发展并重。
• 技术手段：建立风险等级测试评估体系，利用标准化协议评估模型，开展公平性、可解释性评估。
• 企业实践：完善AI评估与决策容错机制，引入多学科专家，提升隐私保护与算法透明度。

人工智能系统操作行为评估模型

• 评估维度：思维特征模拟保真度、行为安全性、社会价值标准、行为协调性、情绪感受度、行为可控性、群体均衡发展度、行为可解释性。

研究意义与呼吁

• 前沿技术研究需关注人类命运共同体，避免技术殖民与冲突。通过国际合作解决社会挑战，守护和平与可持续发展。
• 专家合作倡议：欢迎全球科研人员共同推动开放、公平的科技合作，贡献解决方案。