轻松进入/退出 保障人工智能未来

趋势科技 2025 年安全预测 2025年，消费者数据将成为地下市场的热门商品，预计网络犯罪今年将造成超过10万亿美元的损失。犯罪分子将继续开发新的方法来利用薄弱环节，随着攻击面的扩大，企业风险也将不断增加。我们的研究表明，人工智能（AI）是犯罪计划的主要推动力，被用来增强、加速和改进运营及计划，以利用仍然是最脆弱的途径——用户。 犯罪分子也将继续寻求阻力最小、最容易获取的途径——走最容易的路，因为利润仍然是最大的驱动力。公开可访问的数据存储和滥用合法工具将成为热门目标和技术。以下章节将重点介绍那些将在2025年扰乱企业运营和用户安全的主要问题。 本节概述了我们对2025年的预测，并列出了我们的专家对这些攻击的预期风险严重程度和影响范围的评价。严重程度指的是攻击成功时造成的影响级别，而影响范围则指攻击成功时可能受影响的人数。我们还列出了应警惕此类攻击的行业和群体。 人工智能时代骗局：深度伪造、恶意数字孪生和AI工具泛滥 深度伪造技术因其巨大的潜在滥用风险，正成为与人工智能相关的最大威胁。犯罪分子尚未完全发挥其潜力，我们预测他们将在2025年利用深度伪造技术实施新的诈骗和犯罪计划。在深度伪造技术的帮助下，常见的社交工程诈骗将变得更加可信，而基于个人公开帖子训练的大型语言模型能够模仿其写作风格、知识和个性。这些人工智能技术使得极具欺骗性的模仿成为可能，从而针对毫无防备的受害者。我们还预测基于人工智能的半自动化诈骗将持续存在。对于企业而言，商业电子邮件诈骗（BEC）和“假冒员工”诈骗应是最令人担忧的。绕过KYC（了解你的客户）的服务在地下渠道已经流行了几年，其持续存在依赖于三个要素：无意中暴露的生物特征信息、泄露和被盗的个人信息（尤其是来自勒索软件攻击的数据），以及人工智能能力的日益增强。这条攻击途径将继续为诈骗分子所用。 在人工智能目标方面——恶意个人可能会利用人工智能系统的漏洞，操控其以数字实体的形式执行有害或未经授权的行为，这些数字实体是基于未经本人知晓而进行模仿的个人，甚至可能是全新的身份。随着这项新技术的发展，我们将持续看到其新的应用方式，而犯罪行为者也将不断为其寻找新的社会工程学应用，例如针对特定事件定制钓鱼工具包。人工智能使攻击者在传递这些工具包时更加高效和及时。我们最近在美国选举中看到了这一点，这种情况很可能变得更加普遍。 对于消费者而言，人工智能生成内容的日益普及持续要求加强用户教育，以便他们在在线消费和互动内容时能做出更好的辨别。 想象一下，随着大型语言模型带来的自动化，骗局能规模扩大多少。目前AI的应用仍然有限，但很容易想象下一代的迭代将依赖它来自动化一切。犯罪分子使用的AI只需要成功一次，而利用AI进行安全防护的防御者则必须每次都成功。 需要警惕的AI赋能网络犯罪和恶意活动： 虚假信息/错误信息宣传活动 宰猪 • 成规模地创建逼真的社交媒体形象• 以典型社交媒体用户的方式发布内容• 模仿其他机器人形象散布虚假信息• 传播现有虚假叙事以放大恶意外国影响力• 根据机器人的特定原型制定信息，包括主题和框架 • 识别孤独脆弱人群的画像• 联系并开始对他们展开情感攻势• 钓取受害者并将他们转交给能够通过大型语言模型的性格过滤器加深关系的人类操作员，以实现规模化• 诱骗受害者进入交易和投资聊天室• 让受害者将资金投入虚假网站 其他需要警惕的人工智能相关活动： 人工智能软件工程师 AI模型网络抓取 用于人工智能模型的网络爬虫将继续针对全球各公司的网站，尤其是在线媒体和报纸。 人工智能的进化很可能将包括来自具有高级推理能力和扩展推理能力的模型的软件工程师。 网络攻击的可扩展性增强 人工智能供应链攻击 这将在LLM模型被用作代理的基础，并且随着我们看到代理的普及，将变得更加主流。 人工智能将使罪犯能够使用外语进行交流，并理解当地和区域文化，而无需具备以往所必需的知识。 人工智能可能为高度个性化攻击（如网络钓鱼、舆论操控、诈骗）铺平道路，这类攻击会考虑目标个人的习惯和已知需求。更复杂的网络攻击和诈骗可能使传统安全措施不足的情况成为可能。 便捷进出 自动化将掩盖缺陷，使人眼难以察觉。 随着人工智能变得更加自主，并开始自行使用企业工具和计算机，它将引发一系列对人类操作员而言不可见的连锁事件和交互。这种缺乏可见性可能是一个安全问题，因为它将极难实时监控和控制代理的行为。 随着企业不可避免地卷入人工智能竞赛，它们可能会让自己面临更多的漏洞和缺陷。5 敏感信息泄露6 是一个日益增长的担忧，因为大语言模型在与员工和客户互动时存在泄露敏感数据的风险，包括个人可识别信息和知识产权。 越来越多的公司正利用人工智能发现基础设施漏洞，这既增加了已识别漏洞的数量，也可能（随之）增加了被利用的风险。人工智能代理对恶意软件作者来说也将更具吸引力。由误操作的自发代理所进行的未授权或恶意活动具有巨大潜力，包括外部行为者进行的“代理劫持”。传统恶意软件和已知威胁检测将向左移动，侧重于漏洞和攻击面管理，同时也会向右移动，侧重于利用基础数据智能。 人工智能代理消耗系统资源，无论其是良性的还是恶意的，当资源被耗尽时，也可能导致服务拒绝。 使用传统统计异常检测方法将更难检测到代理式AI带来的威胁。企业将引入AI代理以保持竞争力；由于自主性和逻辑错误或执行错误，代理本身可能具有恶意性。对AI代理日益增长的依赖凸显了建立强大安全措施的紧迫性，这些措施需为安全团队提供对这些代理操作的端到端可见性，同时也要利用AI的力量来应对并保护其便利性所带来的漏洞。 2025年，公司将大量进行实验，以确定自己能容忍多少“幻觉”。恶意软件作者可能会攻击这些框架，寻找可能的漏洞并加以利用。内部辅助型聊天机器人也可能被网络犯罪分子利用，在系统被攻破后帮助他们了解公司的防御措施。 采用代理式AI的企业应警惕： 用户在尝试人工智能代理时可能会不小心弄巧成拙，而这种风险将持续存在，直到制定出更好的指导方针和执行规范。此外，代理和模型提供者的数量有限，这意味着一个流行提供者的一个缺陷可能会在众多组织中造成持续的安全漏洞。 便捷进出 最大影响力：高级犯罪集团与云环境和供应链的对抗 以“拉撒路斯”、7“图拉”8和9“Pawn Storm”9等国家行为体为代表的威胁行为者，在2024年尤为活跃，预计2025年其活动将进一步提升。这些团体将继续针对外交信息、军事技术及其供应链，以实现最大影响力。其他犯罪和雇佣团体如今也开始从事间谍活动，例如10“Void Rabisu”10和11“达芬奇小组”11。与俄罗斯宣传相符的12“双面人”12以及诸如12“Spamouflage”（伪装）等亲华网络，被认为将继续利用虚假信息加剧社会分裂。12“Salt Typhoon”12近期窃取电话通话音频和数据的攻击，可能表明国家行为体正在探索音频深度伪造技术。 地球混沌13号以及其他具有相似地缘政治倾向的国家行为体将继续快速演变。与此同时，朝鲜团体可能会继续专注于加密货币，以帮助规避制裁。APT29已针对云环境进行攻击，此类活动预计将增加。沙虫组织主要参与与入侵乌克兰相关的行动，其行动范围可能根据未来的地缘政治发展而扩大。相同的地缘政治发展将继续导致黑客团体影响他们认为与其政治或道德理念相关的企业；而这些行动受到试图利用他们提供的“免费能源”的国家行为体的影响。 组织必须了解其在供应链中的位置，解决面向公众的服务器漏洞，并在内部网络中实施多层防御。建议在招聘过程中对特定职位进行背景调查，因为国家行为者最近利用这一点在目标网络中安插内部人员。此外，政府、私营企业和媒体之间的合作对于揭露影响行动的全面范围至关重要。攻击路径预测对企业而言将至关重要，因为云实例可以允许多步骤杀伤链；能够预测和中断这些攻击路径将增强组织的防御能力。 地缘政治紧张局势和冲突给冲突区内外的企业带来了新的风险层级。组织应在冲突开始前、爆发时、持续期间及其结束后，执行主动、面向未来、持续且可持续的策略，以应对未来的攻击。 APT组织预计将持续存在。 攻击 • BYOVD（自带易受攻击司机）• 零日漏洞利用• 操作中继盒和代理网络——用以混淆攻击路径• 公开活动——作为诱饵 • 内部威胁——可能有助于数据泄露或破坏 • 生成式人工智能通过令人信服的虚假信息增强影响力，以量身定制钓鱼攻击，协助和加速恶意软件开发 • 面向公众的服务器 • 供应链上 • 面向互联网的路由器• 通过定向网络钓鱼活动 2024年全年，生成式人工智能被用于内容创作、传播，以及伪造身份和制造虚假信息。预计生成式人工智能的使用将进一步增强，以提高传播内容的可信度，并提升虚假信息宣传活动中的运营效率。其社会影响不可低估。政府、私营公司、媒体和其他组织合作，揭露恶意影响行动的全面范围至关重要。 内存管理与移动创新中的漏洞 内存管理漏洞，如越界（OOB）写/读，持续被攻击者利用；CISA KEV 15 报告今年有 18 个不同的 OOB 写漏洞被利用。根据 MITRE 的分析，内存管理漏洞（CWE-787 和 CWE-125¹⁶）是按严重程度和频率排名最危险漏洞之一。内存管理和内存损坏漏洞很可能在未来一年继续成为攻击者的目标。内存损坏和逻辑漏洞常常结合在一起，以创建 Pwn2Own 的优胜项目。 2025年，我们预计漏洞链将继续普遍存在，而API中的漏洞将给云资源带来问题。我们还预计容器逃逸事件会增多。17 今年我们已经展示了一个Docker 18的逃逸案例，未来肯定还会有更多。 然而，像跨站脚本（XSS）和SQL注入这样较为古老、简单的漏洞仍然普遍存在，并且只要它们存在，就会持续成为攻击目标。这对那些安全专家尚未仔细审查的操作技术（OT）设备和服务的适用性尤其如此。老旧的技术依然有效，例如简单的缓冲区溢出和命令注入攻击，对于打印机、Wi-Fi摄像头等设备而言依然流行，因为这些设备在设计时并未考虑安全性。尽管人工智能带来了进步，但对于那些希望以最小努力获取最大利润的网络犯罪分子来说，这些经典的“最低阻力”途径将继续具有实用性。 与此同时，随着发展道路的不断展开，安全领域面临着跟上移动创新步伐的挑战。不同平台间推动移动平台标准化意味着，一个被广泛采用的系统中的单一漏洞可能波及多个车型和制造商，导致大规模召回或紧急软件更新。车辆系统也正从多个分布式电子控制单元（ECU）向少数几个计算能力更强的集中式ECU过渡。虽然这一转变降低了开发新版本E/E系统所需的时间和成本，但它反过来也降低了市场准入门槛，缩短了攻击者的学习曲线，并增加了针对共享组件的多个OEM平台遭受大规模攻击的风险。 今年，在Pwn2Own比赛中，电动汽车充电系统和车载信息娱乐系统（IVI）系统被频繁利用，尤其是在首届Pwn2Own汽车大会上。这些系统代表了一个广阔的攻击面，供应商尚未对其进行彻底的安全漏洞审查。未来， 攻击者可能会针对电动汽车充电桩与车辆之间的通信，因为电动汽车充电站已联网，并与支付系统和电网以及车辆进行交互。如果安全防护不当，它们可能被利用来访问车载系统、窃取支付信息以及中断充电过程。 联网汽车面临的网络威胁可能导致严重的物理后果。例如，被攻破的车辆可能使犯罪分子能够禁用刹车或转向系统。为了保护汽车系统免受危及驾驶员、乘客和行人安全的网络物理威胁，先进的防护措施和主动预防措施至关重要。 资产检测对企业发现内存管理漏洞等关键漏洞至关重要；当今网络中设备数量的庞大使得全面识别面临挑战。彻底检测对于通过及时补丁和更新维护这些资产至关重要。与此同时，汽车行业不断变化的威胁强调了原始设备制造商、供应商和网络安全公司之间协作的重要性，以加强集体和全面的防御。像Auto-ISAC这样的组织通过提供平台，使汽车行业能够有效共享信息和最佳实践，发挥着关键作用。 移动游戏中的风险是变革者 虽然技术进步带来了效率和创新，但也引入了行业可能尚未准备好或甚至未意识到的新的风险。单一的安全漏洞可能波及整个生态系统，凸显了建立强