Check Point AI 安全报告：第一版

人工智能威胁

• 网络犯罪分子利用人工智能增强攻击能力：网络犯罪分子密切监控主流人工智能应用的趋势，并利用人工智能增强其攻击能力。他们使用人工智能进行APT狩猎、漏洞研究、社会工程学攻击和恶意软件开发。
• 暗网中的AI模型：网络犯罪分子在暗网上创建和销售专门针对网络犯罪的恶意LLM模型，例如WormGPT、GhostGPT、FraudGPT和HackerGPT。这些模型旨在绕过安全措施，并作为黑客工具积极推广。
• AI辅助社会工程学攻击：人工智能驱动的工具使攻击者能够大规模创建逼真的材料，进行自动聊天，并在冒充他人的同时进行实时音频和视频会议。这显著提升了欺骗和诈骗的有效性。
• 深度伪造技术：人工智能生成的音频和视频深度伪造技术被越来越多地用于欺诈和身份盗窃。攻击者利用音频和视觉线索进行身份确认的情况受到了严重威胁。
• 针对LLM账号的新型社会工程学攻击：网络犯罪分子已经建立起一个繁荣的地下市场，用于贩卖被盗的AI服务账号，包括ChatGPT、OpenAI API密钥和其他LLM平台。
• AI用于恶意软件：人工智能被用于创建和优化恶意软件杀伤链步骤，例如勒索软件脚本、钓鱼套件、信息窃取器开发以及深度伪造生成。
• AI用于漏洞挖掘：人工智能被用于增强漏洞挖掘工作，例如测试新型物联网设备、识别逻辑安全漏洞等。

企业AI应用之数字

• 人工智能服务的普及：许多人可能没有意识到他们的互动多么频繁地涉及人工智能，无论是直接使用生成式人工智能服务，还是间接与语法和翻译助手或客服机器人等后台工具交互。
• 数据丢失风险：员工使用未经授权的AI工具和应用可能导致安全漏洞、合规问题以及数据管理不一致，使公司面临运营风险或数据泄露。
• 影子人工智能应用：影子人工智能应用可能导致安全漏洞、合规问题以及数据管理不一致，使公司面临运营风险或数据泄露。

SECURITY FOR，BY且与人工智能

• 人工智能安全助手：人工智能安全助手可以减少执行常用任务所需的时间，包括策略创建、实施和问题工单解决。它还可以提升事件缓解与响应能力。
• 人工智能威胁云：人工智能是你分析、检测、预防及预测威胁的最宝贵工具。内容分析能识别行为模式、异常情况及语言线索，使人工智能系统能持续从新威胁中学习和适应。
• 人工智能驱动的数据分类：人工智能驱动的数据分类来防止数据丢失，并在满足法规的同时做出明智的治理决策。