2024网络安全十大创新方向报告

Top Ten Innovative Technology Trends in Cybersecurity for 2024 2024 数说安全 目录 创新方向：AIGC+数据安全 创新方向：AIGC+自动化渗透测试 创新方向：网络安全度量 典型落地方案： 典型落地方案： 典型落地方案： 长亭科技-AI驱动，提升网络安全攻防实战对抗能力北方实验室-北实正剑·自动化渗透系统 灰度安全-先知·智能风险评估系统360-360抗攻击能力评估系统魔方安全-全网攻击面度量与治理方案 上海观安-观智数据流转监测系统360-大模型赋能数据安全分类分级 创新方向：AIGC+安全运营 创新方向：AIGC+邮件安全 创新方向：数据跨域管控 典型落地方案：360-大模型赋能邮件安全 典型落地方案： 深信服-AI安全运营360-大模型自动化安全运营绿盟科技-风云卫AI安全能力平台赋能安全运营解决方案天融信-天问大模型系统金睛云华-大模型赋能的XDR解决方案 典型落地方案：蚂蚁密算-跨域管控 创新方向：认知安全 创新方向：安全态势管理 典型落地方案： 中科睿鉴-全栈AI安全布局，提升公众认知安全防御力 典型落地方案：哨云科技-无代理云检测与响应 创新方向：AIGC+开发安全 创新方向：大模型安全 典型落地方案：华清未央-机器语言大模型MLM酷德啄木鸟-CodePecker基于LLM的软件安全治理平台 典型落地方案： 蚂蚁集团-切面融合智能威胁检测体系360智脑-大模型安全解决方案 关键经营数据分析——现⾦流健康度继续下降创新方向：AIGC+数据安全 数据安全治理包括数据分类分级、数据脱敏、数据防泄漏等工作，通常基于特征、正则表达式以及机器学习方式对大规模的数据进行识别标注，但大多面临规则引擎能力受限、误报高、重人力等问题，无论对于用户还是数据安全服务商来说，都带来了极大挑战。生成式人工智能的出现，已经在数据分类分级、敏感数据识别、数据防泄漏等方面带来革命性改变，包括通过自然语言处理实现自动化数据分类与标签生成，使用多模态技术识别图像、音频等非结构化数据，以及利用类人脑思维链和推理能力理解复杂的语言结构和上下文，高精度识别敏感内容和异常行为。通过大模型处理数据分类、数据脱敏和数据防泄漏等任务，在既保证很好效果的同时，也对数据安全治理工作的效率带来数十倍以上提升，将成为未来数据安全技术发展的重要方向。 核心能力 关键挑战 1、本地化部署与算力配置2、大模型性能调优3、安全数据工程化投入4、不同行业属性和应用场景的覆盖能力5、数据合规与隐私保护 1、数据语料的质量与场景覆盖度2、预训练与精调能力3、NLP自然语言处理与思维理解能力4、大模型与规则引擎/特征库的联用和协同5、智能体（Agent）设计与编排能力 典型厂商 应用场景 1、数据分类分级2、数据脱敏3、数据泄漏防护与溯源4、API资产识别与风险监测5、数据安全风险评估 关键经营数据分析——现⾦流健康度继续下降•观安信息-观智数据流转监测系统 上海观安信息技术股份有限公司是一家提供大数据+泛安全产品与服务的工信部专精特新“小巨人”企业。公司专注数据安全防护技术近10年，致力于数据安全治理、数据安全全生命周期管理技术的研究。公司提供成熟的数据安全方案，全面保障客户数据资产全生命周期安全。通过运用大数据及人工智能技术，观安信息协助客户全面盘点数据资产，实现智能分类分级，明确数据安全风险，可视化数据安全态势，并量化评估组织的数据安全能力成熟度。 方案概况 方案优势和用户价值 方案优势与特点： 方案介绍： （1）资产自动发现，协议全面：通过深度学习自动识别资产特征，构建详尽的资产管理清单，并结合大模型优化协议识别库，实现全链路协议的智能识别与记录。 方案聚焦于构建以数据为核心、业务为导向的全链路全流量监测分析系统。系统利用网络流量分析，精准识别业务敏感数据的流动，构建数据流转的清晰图谱，实现资产自动梳理、API接口监测、行为审计及风险预警。借助大模型快速准确识别资产锁定关键节点、接口与涉敏人员信息，流转审计保障数据流转透明，风险监测提前预知潜在威胁，并借助智能溯源技术，对泄露事件进行全链路追踪，保障企业内外数据共享的开放性与安全性，实现数据流转过程中的风险隐患最小化。 （2）数据流动可视，监测深入：监测内外部、跨境流量及异常/风险流量，分析数据资产的使用、流动、涉敏、风险等情况，大模型助力生成直观的数据流转地图。 （3）智能数据分级，识别精准：通过智能数据分类分级与规则匹配，精准识别各行业敏感数据。结合大模型的持续学习能力，拓展高敏感数据识别范围，动态调规提升识别准确性，如地址信息、医疗记录等。 （4）风险监测预警，决策智能：流转数据要素全记录，AI智能实时监测数据变化，快速捕捉数据异常，智能评估风险等级，实现风险的智能预警和精准溯源。 用户价值： （1）业务连续性与安全性的双重保障：不仅保障业务的连续性和稳定性，还通过精准识别和细致剖析敏感接口及流量数据，有效预防数据泄露风险。 （2）智能风险防控与合规的无缝融合：精准识别敏感数据，快速响应潜在风险，保障业务连续稳定，实现数据安全与合规的双赢局面。 典型客户或目标客户： 运营商、电力、金融、保险、医疗、汽车、教育等行业用户。 关键经营数据分析——现⾦流健康度继续下降•360-大模型赋能数据安全分类分级 360数字安全科技集团有限公司（360数字安全集团，360 Digital Security Group）是兼具人工智能和数字安全能力的公司。在国家数字化战略背景下，360数字安全集团以“上山下海助小微”为企业使命，确立了数字安全和人工智能发展双主线：一方面通过“搞硬科技、啃硬骨头”，为国家攻克了卡脖子难题，为全球数字安全的发展提供了可供参考的“中国方案”，也为产业数字化提供了“安全普惠”的捷径；另一方面，深度参与打造以“人工智能+”为核心的新质生产力，助力传统企业“数转智改”，同时提出“以模制模”的理念解决人工智能安全问题。 方案优势和用户价值 方案概况 方案介绍： 方案优势与特点： 基于360CoE安全大模型进行数据分级分类专项训练，联同成熟的DNA分类引擎、机器学习引擎等成熟引擎，构建数据分级分类智能体，全面赋能360本地安全大脑，实现数据安全领域中智能化分类分级识别，通过语义输入信息的数据分类、所处行业中分级信息,利用专有名词、同音词、中英文常用词汇、特定情景下常用缩写字母，识别其语义后进行分类分级。 •智能识别头阵,通过大语言模型对输入进行感知分析,包括:行业特性、规范要求、特定场景和数据业务等•自然语言识别,通过大语言模型语义识别,包括:同音字、拼音、中英文、距离向量等进行语义分类•机器学习托底,在智能体中针对大量分类分级结果数据训练,通过SVM线性分类器托底分类分级能力 用户价值： （1）帮助用户自动化分类分级，此前需要数人月工作量的人工分类分级转为几小时的自动化分类分级，人工只需要针对结果进行确认即可。（2）数据DNA分类引擎还可以帮助用户避免进行重复数据的分类分级工作。 典型客户或目标客户： 国家大数据局、政企用户、拥有客户数据的民营企业、有保护数据隐私的企业用户 关键经营数据分析——现⾦流健康度继续下降创新方向：AIGC+安全运营 安全运营是提升网络安全能力的核心工作，但目前面临告警噪音与误报、APT、0Day以及高混淆、高变换、高对抗性攻击检出率低、海量异构数据难以整合分析、响应处置智能化不足、人才短缺等问题，导致效果始终无法达到预期。生成式人工智能在解决这些问题方面展现出高效的思维推理与研判能力。首先，它能够将复杂的安全问题分解为多个步骤，并在保持上下文信息的基础上进行逻辑推理，有效过滤误报、攻击尝试、低风险问题等，突出高威胁事件。其次，通过理解因果关系和进行演绎归纳推理，它在识别APT和0Day攻击时更为高效，并通过强大的生成能力，给出详细和深度的研判结果，大幅简化研判难度。最后，大模型具有强大的动态调整和自适应学习能力，能够根据实时的反馈动态优化防御策略，提升告警处置效率、增强攻击识别精度和自动响应能力，从而全面提升网络安全运营的效果。融合AI已成为当下网络安全运营中不可或缺的能力，也是未来必然的发展趋势。 核心能力 关键挑战 1、模型训练与精调能力2、对AI幻觉的压制与应对3、性能调校与算力使用间的平衡4、模型合规与自身安全防护5、安全数据工程化投入 1、安全数据（语料）的质量与全面性2、*模型训练与精调能力（全量/LoRA）3、智能体（Agent）设计与编排能力4、大模型与安全架构的逻辑设计与融合5、大模型与小模型等AI技术的联用与取舍 典型厂商 应用场景 1、安全事件告警降噪2、威胁与攻击研判3、安全事件自动化响应与处置4、报告自动生成5、常态化安全运营助手 •深信服-AI安全运营 深信服科技股份有限公司（下称“深信服”）创立于2000年，是一家专注于企业级网络安全、云计算、IT基础设施及物联网的产品和服务供应商。在如今的数字化时代，公司立志于承载全球各行业用户数字化转型过程中的基石性工作，从而让每个用户的数字化更简单、更安全。历经24年的深耕发展，深信服作为中国网络安全领域的龙头厂商，持续引领产业发展。深信服智安全秉持“简单有效，省心可靠”的价值主张，通过以AI为内核、云化赋能的“开放平台+领先组件+云端服务”安全新范式2.0，为千行百业的网络安全建设带来更多“领先一步”的效果和体验，实现“体验领先一步，效果领跑一路“。 实战攻防演练用户真实使用价值反馈： （1）【高效告警、精确研判、深度调查、还原故事线】“只有你们的产品报了告警，通过提供的详细报告，根据故事线路径一下就找到了木马，这个AI安全运营平台确实不错。”（2）【自动编排响应、有效联动处置】“原来攻击队不是没有打我们，是我们自动封禁速度快，非常有效。”（3）【安全运营生产力跃升】“目前防守现场已开展夜班无人值守机制，全权由XDR+GPT进行自动化对抗，周末只有1~2人按需值班，释放了人员值守压力，实现平战一体化。” 典型客户或目标客户： 已累计在政府、能源、金融、交通、运营商、教育、制造业等行业的130+客户真实环境测试和落地应用。 关键经营数据分析——现⾦流健康度继续下降•360-大模型自动化安全运营 360数字安全科技集团有限公司（360数字安全集团，360 Digital Security Group）是兼具人工智能和数字安全能力的公司。在国家数字化战略背景下，360数字安全集团以“上山下海助小微”为企业使命，确立了数字安全和人工智能发展双主线：一方面通过“搞硬科技、啃硬骨头”，为国家攻克了卡脖子难题，为全球数字安全的发展提供了可供参考的“中国方案”，也为产业数字化提供了“安全普惠”的捷径；另一方面，深度参与打造以“人工智能+”为核心的新质生产力，助力传统企业“数转智改”，同时提出“以模制模”的理念解决人工智能安全问题。 方案优势和用户价值 方案概况 方案优势与特点： 方案介绍： •一体之两翼，优质的本脑运营平台是基础设施，加速大模型成熟；基于360大数据泛化能力的优质大模型，提高智能化水平，提升运营能效•先进的XDR运营平台，基于运营商级的高性能安全大数据底座，融合式分析研判、体系化处置协作空间和自动化评估三位一体，国内唯一成功替换国际先进SOC产品的平台•优质的安全大模型，基于自研千亿参数大模型的互联网技术基因+世界上规模最大的安全知识库和专家的安全基因，形成强实战安全大模型 本地安全大脑平台与大模型强强联合，大模型通过重塑看见、重塑处置和重塑知识三个大业务重塑实现安全大脑能力全面跃升，构建一套基于本脑以“看见+处置”为核心的安全运营服务体系，提升运营效果和效率的同时大幅降低对人的技术要求，解决数字空间“看不见”的卡脖子难题。 方案示意图/拓扑图： 用户价值：