行业研究公司研究宏观策略财报招股书会议纪要 Token 低空经济十五五 AIGC 大模型

非国家行为体滥用人工智能及其对国际安全的影响

2026-03-18 清华大学 carry~强

非国家行为体滥用人工智能的国际安全风险：人工智能技术的可及性、通用性与自主进化能力为非国家行为体滥用AI创造了条件，使其能借助开源模型、商用API等低门槛渠道获得自动化攻击、智能规避防御措施、低成本放大危害影响的能力。这种滥用会放大并激化各领域已存在的应用安全风险，并催生全新安全风险，对国际安全构成多元威胁。具体表现为：AI激化已有应用安全风险（如军备扩散、生物恐怖主义、网络安全攻击、认知操纵），并暴露安全系统的脆弱性（如植入对抗样本和恶意后门）；AI技术引发的安全治理制度失灵（挑战国际规范、模糊责任链条、淡化合作基础、加速技术逐底竞赛），削弱治理机制效能。
非国家行为体滥用人工智能的路径：非国家行为体可能在网络攻击、虚假信息与认知操控、CBRN相关活动以及人工智能赋能的自主或半自主系统等领域滥用先进人工智能。具体路径包括：利用AI生成高度拟真、可定制化的意识形态文本和宗教叙事进行宣传与激进化；利用AI整合并简化高度技术化的信息，降低获取高风险知识的认知门槛；利用AI分析环境信息和行为模式，与无人系统、自主武器等技术相结合，放大恐怖行为的负面影响；利用AI进行更有组织、有针对性的恐怖主义内容宣传与招募；利用AI生成极端化文本、对话内容，提升意识形态渗透与动员效率；利用AI协助进行恐怖活动策划、路线设计与行动推演。
恐怖分子滥用大语言模型的国际安全影响：恐怖组织滥用大语言模型改变恐怖组织与主权国家间的力量对比，突破传统主权管辖边界，暴露现有治理体系的滞后性和国际合作的脆弱性，对国际反恐行动构成新挑战。具体表现为：恐怖组织获得准国家行为体的宣传、动员和作战能力；恐怖组织突破物理领土限制，使传统主权管辖体系面临挑战；国际人工智能治理滞后，全球反恐面临责任真空与法律空白；技术壁垒与制度碎片化问题相互交织，削弱全球协同反恐能力。
降低非国家行为体滥用人工智能带来风险的国内方法：中国通过多元共治的方法论，结合人工智能安全治理政策和实践，为防范和减轻非国家行为体滥用先进人工智能技术带来的风险，已采取或可采取的减轻措施包括：建立风险测试评估体系；建立监测预警和事件报告机制；建立安全威胁信息共享机制；强化大模型部署合规审查与红线设置；强化人工智能应用安全的动态评估。
缓解非国家行为体引发的人工智能风险：非国家行为体对先进人工智能的滥用正构成日益严峻、超越国界的安全挑战。前沿人工智能系统赋能的“恶意提升”潜力，尤其在网络行动、虚假信息、生物安全及自主系统领域，凸显了超越抽象风险认知、转向切实协同治理的紧迫性。中美两国应肩负起特殊责任，携手应对此类风险。
中美能否遏制非国家行为体滥用人工智能的风险：中美在防范非国家行为体滥用人工智能方面存在高度重合的共同挑战和安全关切，且该议题属性较为偏向技术治理，意识形态色彩也相对较弱。中美应重启人工智能领域政府间对话机制，尝试将人工智能领域的双边共识拓展至更广泛的多边机制，在联合国机制下推动应对非国家行为体滥用人工智能的全球治理进程。