大语言模型技术在电力系统中的应用及发展趋势
大语言模型与智能体技术简介
- 人工智能发展历程:从早期的逻辑程序到神经网络的兴起,再到决策式AI、生成式AI,以及当前的决策+认知感知+学习+执行+社会协作的AI。
- 大模型发展历程:1956年人工智能诞生,1986年反向传播算法提出,2011年IBM Watson战胜人类冠军,2017年Transformer架构提出,标志着大模型时代的开启。
- 语言模型定义:能够预测近似人类语言分布的模型,通过学习文字接龙、无标注文本等数据进行自监督学习。
- 大模型训练:包括预训练、指令偏好微调和指令微调三个阶段,需要大数据、大模型和大算力支持。
- LoRA技术:通过低秩适配减少训练参数量,降低GPU资源需求,提高微调效果。
- 强化学习:通过人类反馈强化学习(RLHF)提升模型性能。
LLMAgent在电力系统研究中的应用思考
- 大模型核心能力:自然语言与常识理解、逻辑推理、数学建模与公式推导、代码生成。
- LLMAgent潜在应用领域:机器代人(机巡、客服、公文写作等)、工作流重构、信息-物理-社会系统(CPSSE)仿真、多模态数据融合、电力系统机理研究(AI4S)。
- 多类模型融合:在Agent框架下实现大模型、领域小模型、PINN、因果模型、符号模型等的融合,以适应不同场景需求。
- 信息物理社会系统仿真:利用大模型的“智能涌现”现象,结合真人因果模型,实现更精确的人机混合仿真。
LLMAgent的应用初探
- 基于大语言模型实现高适应性负荷预测(多模态数据融合):通过分析新闻事件等文本数据,提升负荷预测的适应性和精确度。
- 调度大模型研究:将调度行为数据语言模型化,实现调度行为的理解推理、操作序列生成、智能博弈策略生成等,提高调度安全性与效率。
- 调度大模型数据处理:包括领域数据集构建、调度场景数据收集、大模型训练等。
- 调度大模型评价指标:围绕事实性、逻辑性、稳定性、公平性、安全性、表达性六大类二十四个子维度展开评估。
- 传统经济学仿真面临的困难:动态博弈求解难度大、泛化性较差、难以捕捉复杂市场动态。
- 大模型经济学仿真的潜力:推理能力、泛化能力、代理模拟。
- 基于大语言模型的碳市场均衡分析:利用大模型精确理解与分析市场动态,强大的推理与适应能力,多主体策略模拟与优化。
- 碳市场模型构建:包括控排企业行为、企业属性、企业目标等。
- 碳市场均衡分析结果:通过指令工程、工具调用、多代理模型等技术,求解碳市场均衡解。
AI4S是未来的蓝海
- AI4S定义:结合人工智能、高性能计算及先进数学工具的通用计算框架或系统,推动科学研究和工程领域中复杂问题的高效解决。
- AI4S优势:融合深度学习、强化学习、生成模型等现代智能技术,提供强大的跨领域支持。
- 电力系统物理机理转型:新能源和电力电子设备渗透率提高,电力系统建模与分析的基础理论需要重构。
- 大模型辅助新型电力系统机理研究:例如动态建模、稳定性分析的解析方法、电力市场的博弈均衡等。
结语
大模型及智能体技术在电力系统中有广泛的应用场景,机器代人较为容易落地实现。信息-物理-社会系统的仿真、运行、规划是核心问题,但仍有很多难题有待攻克。AI4S是解决新型电力系统核心理论问题的希望。