您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 [皇家联合服务研究所]:俄罗斯、人工智能与虚假信息战的未来 - 发现报告

俄罗斯、人工智能与虚假信息战的未来

信息技术 2025-06-01 - 皇家联合服务研究所 Daisy.Aldrich
报告封面

该报告发现,多种多样的俄罗斯行动者积极参与人工智能的讨论。这些行动者不仅正在讨论使用人工智能工具来自动化和放大内容,而且还在探索人工智能作为叙事工具的作用,夸耀其有效性,警告其危险性,并将其塑造成一种战略资产和潜在威胁。虽然这篇论文没有评估高级情报规划的内幕运作,但它提供了一种独特的行动者层面视角,展示了人工智能如何看待进入俄罗斯影响力网络的战略想象力。这些见解突出了不仅需要追踪人工智能如何在未来的虚假信息行动中发挥作用,而且还需要理解它已经如何塑造这些行动者思考、沟通以及将自己定位在数字生态系统中的方式。随着生成式人工智能技术的快速发展,其对全球信息安全的影响日益尖锐。本文探讨了俄罗斯国家关联及亲俄行动者如何在他们的在线交流中讨论、概念化和构建人工智能。基于对俄罗斯相关网络渠道交流的原始分析,本文研究了俄罗斯影响生态系统中的行动者如何看待人工智能在信息战中的作用,以及他们的叙述揭示了关于不断发展的威胁轨迹的哪些信息。分析表明,俄罗斯各方参与者(从与瓦格纳集团等组织有关联的群体,到亲俄黑客集体和网络影响者)越来越关注人工智能,将其视为既是机遇也是威胁。人工智能通常被描绘成一种强大的信息操控工具,能够生成有说服力的内容,放大信息传播,并以庞大的信息量压倒对手。与此同时,许多参与者对西方在人工智能发展上的主导地位表达了显著担忧,暗示这些技术可能被用来颠覆俄罗斯公众舆论、侵蚀自主性并破坏国内信息环境。在当前讨论中,关于监控、深度伪造(旨在歪曲人物在图像或视频原始版本中所做或所说之事的数字修改视频或图像)和算法偏见的问题尤为突出。观察到的对话并非局限于抽象的猜测。该论文记录了国家相关联和国家立场一致的参与者如何积极辩论人工智能的影响,分享实用知识,批判虚假信息行为,并招募具有相关技术技能的个人。这些见解表明,在俄罗斯影响力网络中存在着一种不断演变的适应文化,人工智能正越来越被视为未来信息行动的核心组成部分。 在这个背景下,俄罗斯信息行动尤为紧迫。俄罗斯政府长期以来一直将信息战视为国家战略的核心要素,将信息领域视为与常规或核战争同等重要的战场。1据信,与俄罗斯国家有关联的虚假信息行为者在大选前投入了大量资金用于人工智能技术,以影响欧洲观众。2随着生成式人工智能变得越来越容易获得和越来越强大,它降低了更广泛生态系统中亲俄行动者(包括与国家有关联的媒体、黑客活动家和在线影响者)尝试和以日益复杂的方式操作这些工具的门槛。1. R P 科什金,《人工智能与俄罗斯国家网络威胁》文化与安全现代条件下的安全(作者翻译),2020年2月27日,, 访问于2025年4月8日。 2. Recorded Future,‘2024年度报告’,网络威胁分析报告,2025年1月28日,, 第15页,访问于2025年4月8日。生成式人工智能的泛滥引发了普遍的担忧,即恶意行为者可能会利用人工智能破坏信息生态系统。虽然早期关于人工智能生成虚假信息的警告主要关注其理论风险,但最近的证据表明,一系列行为者已经将这些技术融入其影响力行动中。了解此类行为者如何感知、实验和部署生成式人工智能,对于预测未来威胁和设计有效的反制措施至关重要。尽管这一威胁非常严重,但对于俄罗斯国家关联行动者进行的虚假信息和影响力行动的理解仍然有限。目前的讨论集中在产出上,而对于俄罗斯关联行动者如何感知或讨论人工智能在影响力活动中的作用的关注较少。本文旨在通过考察俄罗斯国家关联和倾向国家行动者及团体——包括与国家关联的社交媒体团体和频道、黑客集体、军事关联团体和网络影响者——如何讨论人工智能,来弥补这一差距。本文探讨了人工智能可能如何成为他们的武器库中有益的工具,或补充他们现有的技术、战术和活动。本文通过对这些行为者和群体在线通讯渠道和信息生态系统的范围界定和分析,为俄罗斯虚假信息和影响力活动提供了新的见解。在此过程中,本文分析了这些空间内的行为者如何讨论人工智能,包括他们对这项技术目前以及未来可能用于宣传目的的认识、理解和知识。本文提出了一种独特的 方法学3. ‘Extrac:直面威胁’,ExtracAI,,访问于2025年6月19日。这项分析置身于不断发展的文献之中,这些文献探讨了AI赋能的影响力行动,同时提供了一种更具行动者中心视角的视角。该论文并非将俄罗斯的虚假信息视为一个单一、由国家主导的企业,而是突出了参与行动者的异质性,以及他们运用AI的多样化方式,有时甚至是矛盾的方式。虽然该论文聚焦于战术和中层行动者,但它并未试图描绘负责设计最高层级的行动的情报管理人员或决策者的战略或指导思想。此类见解超出了开源社交媒体监控的范畴。相反,该报告有助于对那些在更广泛的俄罗斯影响力生态系统中的人们如何看待、讨论和实施人工智能有一个更细致的了解,以及这些不断发展的实践如何反映出在操作和叙事层面出现的威胁。在第二阶段,对更广泛的数据集进行了内容分析,包括跨不同时间段和多群体的搜索。在范围界定阶段确定的术语和主题被用来评估与人工智能相关的讨论的普遍性和范围。检查了帖子,以评估对人工智能的兴趣程度、技术或本文采用定性研究设计,探讨俄罗斯国家附属及国家友好行为体和团体在影响力行动的背景下如何讨论和部署生成式人工智能。该分析主要基于通过ExTrac AI最先进的AI平台收集的数据。3 extrac ai能够每天自动收集、精炼和分析来自数万个难以获取但公开可用的来源的数据和多媒体资料,包括与虚假信息行为者相关的通讯生态系统。对俄罗斯国家相关联及国家倾向团体的当前和未来实践的看法,以及他们试图影响和极化受众和公众舆论,特别关注欧洲。这项研究分为三个阶段,首先进行了范围界定阶段,以识别与人工智能和非信息虚假相关的主要参与者、渠道和关键词。利用ExTrac AI的搜索功能,根据关于俄罗斯影响力行动的现有研究、平台上的先前标签以及初始关键词搜索结果,选择了相关渠道。关键词包括俄语和英语的术语。这一阶段为参与人工智能的在线生态系统参与者提供了初步的映射,并为后续的分析阶段奠定了基础。 俄罗斯信息战战略基础展示出的运营知识以及围绕使用人工智能进行虚假信息传播而出现的叙事类型。基于初始分析的洞察,随后选择了具体的案例研究进行深入考察。这些案例研究聚焦于特定行为者(如瓦格纳相关渠道和非ameba匿名057(16)等黑客团体),并探讨了人工智能如何在他们的虚假信息工作中被讨论和应用。对于俄罗斯而言,信息战,或如其在俄罗斯战术后所被称为的“信息对抗”,4具有重要的战略意义,等同于常规战争和核战争,即使在和平时期。5信息领域被视为国家安全和地缘政治影响力的有机组成部分。尽管俄罗斯很少承认针对西方目标的网络行动,但它也避免直接否认,将不可推卸性作为一项战略资产。6要评估当前及新兴的虚假信息威胁,理解俄罗斯国家与军事战略如何概念化信息战,以及人工智能如何融入这一战略框架至关重要。本节概述了:俄罗斯在信息对抗和人工智能方面的思维基础;该领域活跃的角色;以及将人工智能整合到虚假信息行动中的操作实践。4. 艾莉娜·特雷格,乔·切尔维奇和拉斐尔·S·科恩,《社交媒体上的俄罗斯虚假信息活动》,兰德公司,2022年6月7日,第1页,,访问于2025年4月8日。5. 布拉戈维斯特·塔谢夫,迈克尔·珀塞尔和布莱恩·麦克劳林,《俄罗斯的MCU期刊战争:探索认知维度,(第10卷,第2期,秋季)2019), 第129-47页。 6. Koshkin, ‘人工智能与现代条件下对俄罗斯国家安全的控制论威胁’。俄语信息战略优先进行情报收集,通常通过间谍活动或网络入侵,以及信息心理这三个阶段共同提供了一种结构化和迭代的方法,用以理解俄罗斯联合虚假信息网络中人工智能的认知、应用案例和战略考量。俄羅斯在信息戰爭和人工智能上的戰略思考 影响7针对个人和大众观众。8这种双重关注使得能够系统地收集数据,同时也加强了在国内和国外塑造政治话语和决策的努力。7. 信息和心理影响是指通过操纵个体或群体接收的信息,有意识地试图塑造他们的思想、情感和行为。8. 安德烈·马诺伊洛,《从信息心理战的经历中我们学到了什么》['What theExperience of Information and Psychological Operations During the SMO has Taught'], Регнум, 2024年2月19日, , 访问日期:2025年4月8日。俄语网络作战:编码边界9. 斯科特·贾斯珀,冲突(Washington DC: Georgetown University Press, 2020)。10. Treyger, Cheravitch and Cohen, “俄罗斯社交媒体上的虚假信息活动”, 第24页。俄语信息战:网络对民主国家的攻击11. 比莉安娜·莉莉,荒野西部(安纳波利斯,马里兰州:海军学院出版社,2022年),第153页。12. 美国国务院,全球参与中心,“GEC特别报告:俄罗斯的虚假信息与宣传支柱”,2020年8月,,2025年4月8日访问。同上。13.尽管这些活动中的许多资源不足且组织混乱,但社交媒体平台允许低成本、大规模地进行实验,而失败尝试不会带来严重后果。10试错方法风险不大,内容量往往比精确度更重要。讽刺的是,西方媒体对俄罗斯网络能力的描绘可能会增强其感知的有效性,强化莫斯科旨在展示的作为高度复杂的网络强国形象,即便操作影响有限,也会因此增强感知到的威胁。11俄罗斯的虚假信息运动旨在通过加剧内部分歧、侵蚀对民主制度的信任以及削弱北约或欧盟等联盟来削弱对手。这使对俄罗斯行动的统一反应复杂化。9俄罗斯虚假信息生态系统多样,涵盖官方国家实体、国家资助的媒体机构、代理组织、意识形态驱动的个人以及商业动机的记者和博主。12一些在正式指挥体系中运作,而另一些则有机产生,由个人主动性推动但与被感知的克里姆林宫目标保持一致。这种去中心化方法为俄罗斯国家提供了借口,同时能够量身定制和灵活的信息传递,与不同受众产生共鸣,而无需统一的叙事,就像明确归因的政府通信那样。13这是一个明显的例子,这个去中心化模式在瓦格纳在非洲的信息行动中体现得淋漓尽致,该组织有意将其信息传递外包给当地的行动主义者、记者和线上影响者。这些行动者通常不直接受瓦格纳控制,但在意识形态上与其保持一致,或者 西方媒体对俄罗斯网络能力的描绘可能会增强其感知到的有效性,强化莫斯科旨在塑造的作为高度复杂的网络强国的形象 人工智能作为虚假信息的推动者被激励去支持其叙事。这些行动者允许瓦格纳在公开品牌化之外,在竞争激烈的媒体环境中实现叙事共鸣、政治推卸责任和运营成本效益。14此外,战略文化基金会、全球研究、新东方透视、新闻前线、南前线、凯赫翁和地缘政治学.ru等代理媒体机构充当俄罗斯在国外叙事的放大器。19它们通过复制和使虚假信息叙事合法化,拓展了俄罗斯在海外的信息传播范围,而无需克里姆林宫的直接监督。RUSI14. 安东尼奥·朱斯托齐,《瓦格纳的信息行动接下来该怎么做?》评论,2024年9月23日。俄罗斯信息战15. 李莉,, 第