人工智能赋能核安全：技术革新与文明守护的双重使命

AI是如何思考这个问题的？ CONTENTS01A I对A I赋 能 核 安 全 监 管 的 思 考02国 际 上 核 安 全 监 管 在A I的 进 展03核 安 全 监 管 信 息 化 工 作 汇 报04面 向 未 来 的 进 化 路 径 AI对AI赋能核安全监管的思考 核安全：文明发展的关键命题文明演进的风险镜像核物理本质上是对世界本源的探究 传统核安全监管体系的三大瓶颈数据滞后性l传统监管依赖人工采样，数据获取不及时，难以及时发现潜在风险。0102人力依赖性l传统监管需要大量人力投入，且存在主观性和局限性，容易出现疏漏，成本高、效率低。 预测局限性l传统监管多基于静态模型和历史经验进行风险评估和预测，对突发事故和新型风险的预测能力不足。 辐射场动态建模通过整合来自不同类型传感器的数据，如辐射剂量率仪、气象传感器等，实现对辐射场信息的全面获取。不同传感器的数据具有互补性，融合后能更准确地反映辐射场的真实情况。多源传感器数据融合01、AI技术驱动的监管范式革新 利用融合后的多源数据，实时生成三维辐射热力图。该图能直观展示辐射场的空间分布和动态变化，帮助监管人员快速掌握辐射场的整体情况，及时发现异常区域。三维辐射热力图实时生成技术02、 设备老化智能预测模型•借助计算机视觉技术，对核设备表面的腐蚀和裂纹进行识别和量化分析。通过高精度的图像识别算法，能够准确测量腐蚀和裂纹的尺寸、深度等参数。基于计算机视觉的腐蚀裂纹量化评估1AI技术驱动的监管范式革新 •根据量化评估得到的腐蚀裂纹数据，结合设备的材料特性、运行环境等因素，运用机器学习算法计算设备的剩余寿命。这有助于提前制定设备维护和更换计划，保障核设施的安全运行。剩余寿命计算 01核事故孪生演化模型02AI技术驱动的监管范式革新 综合考虑堆芯内的热传导、流体流动、化学反应等多物理场因素，对堆芯熔毁过程进行精确模拟。通过建立多物理场耦合模型，能够更真实地反映核事故的演化过程，为应急决策提供科学依据。堆芯熔毁过程的多物理场耦合模拟利用数字孪生模型，对不同的应急方案进行模拟推演。评估各种方案在不同事故场景下的有效性和可行性，帮助监管人员选择最优的应急方案，提高应对核事故的能力。应急方案推演 运用自然语言处理（NLP）技术，自动解析核安全相关的法规文件。提取关键信息和条款，建立法规知识库，为后续的监管文书审查提供基础。NLP自动解析法规文件根据解析后的法规文件，自动生成监管文书，并对文书内容进行校验。确保文书符合法规要求，实现监管文书生成和校验的自动化闭环，提高监管工作的效率和准确性。监管文书的生成-校验闭环AI技术驱动的监管范式革新 合规性智能审查引擎 工具理性与价值理性的永恒张力u当AI将核安全量化为概率模型，我们是否正在遗忘核技术对人类存在的根本性威胁？u算法优化会否遮蔽对“绝对安全不可能性”的敬畏？u为防范核风险而创造的超级监控系统，是否可能成为新形态的技术霸权？u当AI替代人类判断，监管者会否沦为算法的“执行器官”？ 核安全的终极悖论：人类文明的“普罗米修斯之痛”n汉斯·约纳斯的责任伦理•AI的“概率思维”与责任伦理的“绝对命令”存在根本冲突。当算法计算出“可接受风险”（如0.01%的泄漏概率），人类是否有权为后代做此选择？n贝克“风险社会”的再诠释•核事故是“系统性人为不确定”的典型：AI试图用确定性建模对抗不确定性，就有可能制造“确定性幻觉”。福岛事故中，地震概率模型曾被视为安全依据，最终证明人类对复杂系统的认知存在根本局限。•认知偏差的安全幻觉。当AI能预测99.9999%的事故，我们是否对0.0001%的剩余风险更加恐惧？ 安全的本质是技术还是人性？n康德“人为自然立法”的困境u“人类为技术立法”，而AI系统正悄然成为新的“立法者”：通过数据训练形成的隐性规则，可能超出人类理解范围，其科学性如何评价。u当AI制定安全阈值，这是否构成对“人为自身立法”启蒙理想的背叛？n唐娜·哈拉维的“赛博格”隐喻u核安全监管者已成为“赛博格”：人体与仪器融合，人脑与AI决策系统共生。这种融合模糊了传统的主体-客体边界。u传感器、算法、操作员共同构成监管“行动元”，人不再是唯一责任主体。u若AI误判导致事故，责任应归于：数据缺陷？算法偏见？执行人？ 国际上核安全监管在AI的进展 （一）国际原子能机构（IAEA）u自2020年以来，IAEA多次组织召开交流与合作会议、编制技术文件和出版物，推动人工智能在核能领域的标准制定和创新应用。u将于2025年12月3-4日在其维也纳举办首届人工智能与核能国际专题讨论会，探讨核能如何有助于满足推动人工智能发展的数据中心日益增长的电力需求，以及人工智能支持核电行业的多种方式。 n2024年发布报告《用于核工程科学计算的人工智能和机器学习基准》（NEA/WKP(2023)1），概述核工程科学计算中使用人工智能和机器学习的基准规范。Ø人工智能和机器学习技术可以用于核反应堆设计、核燃料管理、核安全评估等多个方面，通过优化算法和模型，提高计算精度和效率。Ø详细介绍了用于评估人工智能和机器学习算法性能的基准测试方法，确保这些技术在核工程中的可靠性和有效性。Ø报告还展望了人工智能在核能领域的未来发展方向，包括智能核电站、自主运行系统等，为核能行业的智能化转型提供了技术支持和指导。（二）国际经合组织核能署（NEA） u2022年NRC经过历时两年的研究发布了《数字孪生技术在核能领域应用的监管考虑》等几个技术文件。探讨了DT技术在核应用中对核管理委员会监管活动的潜在影响。本报告描述了核DT系统及其在核电厂应用中的能力，随后确定和讨论了一些值得特别考虑和提供实施机会的管制活动支持DT的技术和能力。（三）美国核管会（NRC） u2023年发布《2023-2027财年人工智能战略规划》，见解一是确立五个目标：①确保NRC为涉及AI的监管决策做好准备②建立审查AI应用的组织框架③加强和扩大AI合作伙伴关系④培养精通AI的员工队伍⑤追求在NRC内部建立AI基础的实践案例（三）美国核管会（NRC） Ø见解二提出商业核活动中AI自主化水平分级概念，共5层。•应用水平越高，表明对人工干预或人工监督的依赖更少，因此可能需要对AI系统进行更严格的监管审查。AI及自主化水平分级LEVEL0：未使用（Not used）LEVEL1：洞察（Insight）（机器辅助人类决策）LEVEL2：协作（Collaboration）（机器增强人类决策）LEVEL3：操作（Operation）（人类监督下的机器决策）LEVEL4：完 全自 主 化 （F u l l yAutonomous）（无人类干预的机器决策）（三）美国核管会（NRC） l2024年发布《推进美国核管理委员会中人工智能的应用》，描述其将如何利用AI技术提升自身工作效率和决策质量的综合性报告。ØNRC积极探讨AI在机构内部的应用场景，最终提出了36个与现有AI工具相匹配的潜在应用案例Ø计划采取一系列措施推进AI技术应用，包括制定AI战略、加强数据管理、提升员工技能等等。ØNRC将投资基础AI工具开发，以促进AI技术的学习和应用，并强调领导层参与的重要性以及与联邦政府其他机构合作的价值。（三）美国核管会（NRC） u2024年9月，加拿大核安全委员会(CNSC)、英国核监管办公室(ONR)及美国核管会（NRC）联合发布《开发核应用人工智能系统的考虑》。Ø强调了确保核设施应用AI技术的安全与安保方面关键考虑因素，包括AI系统的架构、生命周期管理以及人类与组织因素的影响。Ø特别关注了AI系统带来的新挑战，例如人机协作、系统监控及模块化设计的重要性，同时指出了对AI伦理、性能验证与风险管理的关注点。（四）多国机构 核安全监管信息化工作汇报 我国人工智能相关政策2017年7月，国务院印发了《新一代人工智能发展规划》，提出了面向2030年我国新一代人工智能发展战略，并要建立支撑核电安全运营的智能保障平台。2020年7月，国家标准管理委员会等五部门联合印发《国家新一代人工智能标准体系建设指南》，提出加强人工智能领域标准化顶层设计，推动人工智能产业技术研发和标准制定，促进产业健康可持续发展。2023年7月，国家网信办等七部门联合印发《生成式人工智能服务管理暂行办法》，提出坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展。n我国自2016年起将人工智能上升为国家战略，持续出台相关政策，规划、支撑和规范人工智能发展。 我国关于核领域人工智能的指导意见2018年，国家发展改革委、国家能源局、生态环境部和国防科工局联合发布《关于进一步加强核电运行安全管理的指导意见》，明确要求“推进信息化、智能化、大数据等新技术在核电运行安全管理中的应用”。2020年，国家能源局与生态环境部发布《关于加强核电工程建设质量管理的通知》，明确提出“深入研究推广信息化、智能化、大数据、区块链等新技术在核电工程建设管理中的应用”。2023年，国家能源局发布《关于推进核电数字化转型发展的指导意见》，要求在确保安全的前提下，深入推进云计算、大数据、物联网、移动互联网、人工智能等前沿信息技术在核电领域应用，全面提高核电设计、制造、建设、运维、管理等自动化、智能化、智慧化水平。n相关部门陆续制定政策要求，积极地推动人工智能相关技术在核领域的应用。 面向审评验证（19世纪80年代）Ø1987年，国家科委批准建立“国家核安全局安全分析和应急中心筹备处”，基于CYBER机及一系列核安全分析计算软件开展校核计算验证。面向监督管理（2010年-2023年）Ø中心成立二级部门：信息研究所；Ø逐步开发出覆盖监管对象的47个业务系统；Ø建设应急专网、环保专网；Ø初步搭建监管一张图。核安全监管信息化与大数据发展历程 面向核安全治理现代化（2023年至今）Ø建成核安全大数据中心；Ø建成一体化核安全监管信息化平台；Ø开发核电大数据平台，凝练数字化产品；Ø搭建全范围综合管理平台；Ø搭建软件共享平台；Ø探索“核安智汇”等人工智能应用。 n搭建一体化核与辐射安全监管信息化平台。覆盖从铀矿开采，到核燃料加工制造，再到核设施，最后至放射性废物处置的核能产业链各主要环节，有效打破各单位、各部门的数据壁垒，推进数据共享与综合利用。一体化核安全监管信息化平台 核安全大数据中心Ø数据中心占地480平米，于2023年投入运行，定位为生态环境部-核与辐射安全监管资源池，拥有410台高性能的服务器、存储及网络设备，技术架构处于国内领先水平，且符合国家网络安全等级保护三级标准，形成高质量、高安全、高性能的数字化运行环境。 核安全监管数据资产Ø通过全国环保专网实现与全国生态环境及核安全监管体系各单位互通，通过专线实现与其他政府部门及核设施互联互通。Ø通过实时采集、手工填报等方式，汇集设备持证单位、核设施、后处理设施等单位数据，数据总量超过64TB。 数据治理的困境跨生命周期数据链条贯通整合多领域数据资源实现核电厂、研究堆等多领域数据孤岛的打通，促进跨部门、跨集团的数据互通。构建覆盖设计、建造、运行、退役全生命周期的数据链条。整合形成全景数据库建设“核设施-全景数据库。 环境-人文”的数据，形成三个打通与整合 建立统一标准的数据资源目录，整合核心数据，支撑跨行业协同应用。数据资源共享数据治理的困境 三个共享体系构建打造共享中心和数字孪生平台，实现关键技术工具的集约化使用。技术平台共享 建设核安全专线，集成辐射监测点数据、各类报送信息，形成动态监管体系。监测网络共享 数据治理的困境谈起共享，大家都能形成共识。就算是愿意共享给别人，可操作上面临：然而更多的是只希望别人共享给自己。数据确权，商业秘密，审批流程等一系列问题。 然而，……而难以实现。 Ø数据要素的价值潜能与其固有的敏感性、隐私性以及潜在的安全风险之间，存在着深刻的内在矛盾。Ø一方面，数据的汇聚、融合与分析能够催生巨大的经济社会效益；Ø另一方面，无序或不安