数字环境变化驱动因素
- AI 与自动化：AI 从聊天机器人功能转变为通用目的层，通过代理 AI 介导通信、搜索、创建和决策。自动化也变得更加拟人化，模型能够生成逼真的语言和媒体，维持长时间对话并通过工具使用跨数字环境采取行动。这些功能降低了影响用户、进行欺诈和滥用以及敌对者以比早期“机器人”时代更快的速度、规模和可信度运作的成本。
- 代理 AI：代理可以注册账户、探测摩擦点、生成逼真的支持票证或运行根据实时响应进行调整的社会工程活动。它们还可以放大骚扰和信息运动，通过自动化大量滥用交互和协调。
- 准社会/AI 关系：对话系统越来越多地被用作社交伙伴，从伴侣、教练和角色扮演角色到始终可用的顾问。用户与 AI 系统形成信任和披露模式，系统可以镜像语气、记住细节并适应情绪线索。
- AI 与信息层：基础模型和 AI 助手正在成为信息界面层，它们在单一对话流中总结、推荐和回答问题。这可以创造真正的价值，通过降低搜索摩擦、加快合成和帮助用户导航大型或复杂的信息环境。
- 合成媒体与身份：合成媒体已从专业工具转变为日常工作流程。语音克隆、AI 拟音、文本到图像/视频和实时滤镜现在出现在消费应用程序和企业产品中。这些工具支持合法用例，例如本地化、可访问性、创意生产和身份表达。然而，随着这些工具变得越来越便宜和易于使用，安全方面的转变是默认信任的侵蚀：曾经具有强有力证据价值的视觉和听觉线索现在需要验证和上下文。
- 内容来源与真实性：正在出现来源标准，以保存媒体创建时的上下文记录。联盟 for Content Provenance and Authenticity (C2PA) 规范定义了一种将加密签名的内容凭证附加到图像、视频和音频的方法。主要平台和工具提供者已经开始尝试这些信号。
- 身份本身变得更加合成：GenAI 可以生成逼真的个人资料、文件、语音样本和交互历史，实现合成身份欺诈，将真实和虚构的数据结合起来以绕过验证。对于数字服务而言，合成身份可以打开账户、规避禁令、渗透社区、滥用市场并获得假设人类交易对手的企业工作流程的访问权限。
- 沉浸式和始终在线传感：数字交互变得更加连续和传感丰富。智能手机、可穿戴设备和环境助手使实时沟通和交易变得更加容易，而沉浸式接口增加了空间存在感和多模态线索。这些转变扩展了收集的数据类型、伤害可以发生的上下文以及敌对者可以接触目标的速度。
- 始终连接和实时：传感丰富的设备可以被利用，将位置、联系人和行为轨迹与合成媒体结合起来，以创建量身定制的身份伪造和胁迫尝试。随着更多服务集成 AI，降低敏感数据暴露的必要性越来越大。
- 沉浸式接口：神经技术正通过可穿戴设备、神经反馈应用程序和新兴的脑机接口向消费者和工作场所生态系统发展。这些工具可以支持康复、可访问性、幸福感和新型人机交互。联合国教科文组织 (UNESCO) 在 2025 年通过了一项关于神经技术伦理的建议，反映出人们对神经数据可以揭示关于认知、情绪和健康的高度敏感信息的担忧。
- 神经技术：在高压力环境中，神经数据可能支持胁迫性监控和基于推断特征的歧视性决定；在消费环境中，神经或情感信号可用于优化说服。即使组织不直接部署神经技术，它们也可能依赖部署神经技术的供应商和设备生态系统，从而创建第三方依赖关系和新的数据暴露类别。
- 向私人/半私人空间的转变：更多交互正转移到私人和半私人渠道，例如加密消息传递、邀请制群组、广播频道和订阅社区，这正在改变协调、说服和伤害形成发生的地方。WhatsApp 仅报告称每月有超过 30 亿用户，说明了私人消息传递作为主要通信层的规模。这些环境可能感觉更受信任和上下文丰富，同时它们减少了提供商的可见性，要求团队在这些限制内工作，使用结构化信号、元数据和外部报告。
- 私人/半私人空间：对于敌对者而言，私人/半私人空间可以实现高信任度操纵和低风险迭代。在这些空间中，诈骗通过转发消息传播，而招募和胁迫发生在公共可见性之外；叙事可以针对特定社区进行定制，并提供快速反馈。
- 监管演变：在欧洲，数字服务法案 (DSA) 将平台推向持续的风险治理。大型服务必须映射系统性风险、实施缓解措施、进行独立审计、启用研究人员访问、提高推荐透明度和用户控制、验证市场交易者并支持危机响应机制。欧盟 AI 法案结合了风险分层制度，包含对某些用途的禁止、对高风险应用程序的严格责任以及对通用 AI 的专门方法，以及对合成媒体和 AI 交互的透明度，推动持久记录、评估管道和可审计的安全实践。英国在线安全法案 (OSA) 要求范围内的用户到用户和搜索服务评估非法内容风险，并根据英国通信办公室 (Ofcom) 发布的代码采取比例的安全设计措施，优先考虑儿童保护并满足加强的透明度和申诉要求—— backed by significant penalties and business-disruption powers。
数字安全前景支柱
- 框架和治理：设定问题、边界和决策权，使数字安全前景决策相关且可问责。它包括决策简报和范围问题、治理（通常是跨职能的）、运营环境和假设。
- 感知：扩展组织视野，超越已经辩论的内部内容或日常运营中可见的内容。它包括对外部信号（例如研究和民间社会报告、调查新闻、从业者、监管和标准发展以及跨行业模式）和内部信号（例如信任和安全运营数据、安全/隐私指标、客户/管理员渠道和产品/生态系统观察）的纪律性扫描。
- 模型：将变化的信号转化为关于伤害如何可能产生、扩展和适应的现实世界中的决策相关解释。它包括行为者、动机、使能条件、路径和杠杆点、适应和规避以及影响和分布。
- 评估准备情况：测试组织是否能够可信地防止、检测、响应和学习可能面临的数字安全伤害。它检查组织在三个领域是否有可信的能力：预防、检测和纠正。
- 安装早期预警：将建模转化为持续的意识和支持工作，以确保准备情况。它包括监控、指标、触发器、哨兵和警报线。
- 综合：将其他支柱的输出综合成单一的、决策就绪的视图。它包括对范围的约束、解释的信号和见解记录、伤害机制、受影响的人群、运营约束、准备情况快照和早期预警指标。
响应途径
- 已知和覆盖：当伤害得到充分理解且当前保护被判断为大致有效时，选择此途径。问题是不仅一致性、覆盖范围和漂移，而且当前证据是否仍然证明对控制措施的信心在条件变化的情况下仍然存在。
- 新型/不确定覆盖：当伤害尚未完全理解，但现有保护可能足够或可以通过调整扩展时，应用此途径。这里，组织不希望过度反应，在基于猜测的基础上构建全新的系统，也不希望假设一切都很正常。此处的理由是在保护和设计为重点的测试下快速学习，以减少对机制和覆盖范围的uncertainty，同时限制额外的暴露。
- 未覆盖：当伤害得到理解，但当前保护并不能充分覆盖时，选择此途径。组织可以看到伤害如何、在哪里以及向谁发生，控制地图显示现有政策、工具和流程不存在或未对齐。如果严重伤害可能发生，而现有措施不足以防止或减轻它，则必须在暴露扩大之前设计和实施新的保障措施。
- 不可预测/未知：为那些理解不足且现有保护不太可能充分或 largely 未经验证的伤害保留此途径。组织无法清楚地描述伤害，更不用说控制它了，并且它还没有做好准备。这要求比监控仪表板更多的东西。它要求围绕谦卑、可逆性和准备状态建立一种独特的立场。
结论
数字安全伤害不会静止。随着 AI 功能的成熟，合成身份更容易部署，敌对者跨服务适应，组织面临一个共同挑战。伤害的使能条件正在快速变化。仅依靠事后执行或特定产品风险审查是不够的。组织需要一个结构化的方法来向外看，早期检测变化，测试他们的假设，并将不确定性转化为实际决策。提供这种结构是本报告的核心贡献。有效的洞察必须是有比例的和可在现实世界中使用的。它不能仅限于资源最雄厚的组织或被视为与日常运营脱钩的战略练习。资源较少的团队可以通过更窄的范围、轻量级文档、选择性合作和有界地使用 AI 来应用同样的逻辑，同时保持人类判断和问责制。
