2024 RSA大会推动信息安全进入大型语言模型时代
新兴科技研究2024 RSA大会推动信息安全进 PitchBook Data, Inc. John Gabbert创始人，首席执行官 入大型语言模型时代 塔鲁尼，尼扎尔副总裁，机构部门研究和编辑 保罗·康德拉新兴技术研究中心主任 机构研究小组分析 从确定性的会议创新沙盒、初创企业发射台以及我们的初创企业简报中汲取的经验。 布兰登·伯克高级分析师，新兴技术 brendan.burke@pitchbook.com PitchBook 是晨星公司的一部分，为在私募市场中开展业务的专业人士提供最全面、最准确且难以找到的数据。 数据马修·纳西奥卡莱斯资深数据分析员 关键要点 pbinstitutionalresearch@pitchbook.com 初创企业需要在LLM（大型语言模型）实施方面制定策略，以在市场中脱颖而出。 出版设计者：卡罗琳·萨蒂发布于2024年5月16日 在2024 RSA Conference上突出的创新主题包括AI生成的事件报告、GenAI内容过滤、叙述防御和云安全警报增强。 • 投资者和银行家承认当前初创公司资金募集环境的艰难，对并购市场持乐观态度，并认为大量上市活动不会很快到来。 目录 关键要点1RSA Conference概述1创新沙盒推动人工智能安全2走向商业化 关键创新主题4人工智能生成的突发事件报告5安全团队进行通用人工智能内容过滤6叙事辩护7云安全警报丰富化72024展望7 RSA Conference概述 RSA大会（RSAC）——今年于5月5日至8日在旧金山举行——推动信息安全（infosec）行业的议程，并通过其为初创企业和风险投资家（VC investors）的编程活动，认定下一波商业解决方案。该大会首次于1991年由RSA Security举办，RSA Security是广泛使用的RSA加密协议的先驱。该大会代表了整个企业信息安全行业，但仍然集中在加密和密码学上。它是产品发布和并购交易的热点，同时也为初创企业提供了一个与领先的VC投资者、企业买家和收购方建立联系的平台。 尽管此次会议为各行业公司提供了交流的平台，但连续第二年，关注于处理尖端人工智能的好处与风险的创新依然是重点。因此，本报告聚焦于将人工智能视为既是信息安全防御者的挑战也是解决方案的创业公司的提案和新产品发布。创业公司提案的主要论坛包括创新沙盒——一个针对早期初创企业的提案竞赛，以及RSAC启动平台——创始人和风险投资家之间的讨论小组。早期阶段展览还给了有潜力的早期初创公司展示新产品的机会，并且我们识别出了多个准备在商业领域产生影响的新进入者。 创新沙盒推动人工智能安全向商业化迈进 我们已追踪到为RSA创新沙盒公司提供的157亿美元融资，累计估值超过598亿美元。PitchBook用户可以在以下链接查看RSA创新沙盒参与者的完整列表：[链接地址]此链接. 创新沙盒展示了信息安全领域风险投资的未来。年度路演竞赛选出了一批初创公司展示他们的技术创新并争夺“最具创新初创公司”称号。我们的平台跟踪了自2009年以来参与竞赛的143家公司。我们跟踪了这些公司的157亿美元融资，累积估值超过598亿美元。这些初创公司在创业市场低迷期间继续扩大规模——包括我们跟踪的最有价值的信息安全初创公司Wiz，在会议宣布的交易中达到了120亿美元估值。沙盒校友和独角兽Axonius、Cato Networks和Claroty在2024年继续在各个细分市场扩大规模，展示了早期创新的持续力量。2022年创新沙盒获奖者Talon Cyber Security在2023年实现了第二高的收购价值，以4.586亿美元的价格出售给了PaloAlto Networks。在最具影响力的商业会议上曝光，既带来了最受瞩目的信息安全领袖的认可，也介绍了这些领袖。 2024年的Sandbox活动聚焦于云安全、数据安全和身份管理，所有这些都以人工智能为核心。约有140家公司被列入入选名单，参与其中，评委Paul Kocher指出，大约75%的公司将人工智能视为一个问题或解决方案，这使得竞争者不得不将重点放在这个主题上。三家公司（Antimatter、Bedrock Security和Harmonic Security）提出用人工智能来颠覆僵化的数据丢失预防（DLP）细分市场。另外有三家公司（Dropzone AI、Harmonic Security和Reality Defender）带来了新颖的大型语言模型（LLMs）来解决安全挑战。还有两家公司（Mitiga和RAD Security）关注了信息安全领域最热门的商业领域——云安全。机器身份仍然是一个与去年Sandbox活动及会议相关的主题，Aembit和P0 Security直接针对该问题。这些共同的主题导致评委就架构选择和客户画像提出了细致的问题。与我们对市场细分市场变化的研究一致，传统的网络和终端监控没有在竞赛中占据重要位置，身份和数据成为了主要关注点。 评委根据该初创公司在生成式人工智能（GenAI）深度伪造检测方面解决的问题的新颖性，将“现实捍卫者”授予了最高奖项，然而其他公司解决了更为紧迫的安全挑战。亚军Aembit因为在不将秘密分配给个别机器的情况下对应用工作负载进行密码学安全而受到评委赞誉。评委和威瑞森首席信息安全官纳斯琳·雷扎伊还相信，该公司的解决方案对于在生产和维护AI工作负载将至关重要。我们与Aembit的简报显示，客户们在防御在不同云环境中进行调用应用的工作负载时遇到困难，并且在工作负载离开给定云之后，单个超规模云密钥管理系统崩溃时也是如此。在机器身份空间中，身份先驱者并没有做出显著的动作，而该公司无秘密的方法将使其能够模仿终端检测和响应以及云扫描解决方案的显著优点。 在竞标中普遍采用LLM表明，初创公司需要围绕LLM的实施制定策略，以在市场中脱颖而出。Reality Defender因其专注于基于GenAI输出构建检测模型的AI Ph.D.团队而脱颖而出。该公司声称在金融服务领域部署了用于语音深度伪造检测的客户，并从领先的AI孵化器AI Grant获得了投资。我们在我们的报道中涵盖了Dropzone AI。2023年第三季度信息安全报告公司因在教学中使LLMs了解在公共数据中不存在的安全查询语言方面取得的令人印象深刻进展，而受到评委的关注。评委们追问了该公司经过微调的LLMs能为安全部门带来多高的自动化水平。Dropzone声称已经通过有限的技能自动化了许多低级安全任务，以及在警报分类中升级到高级修复能力的技术能力有限。Harmonic Security开发了一个经过微调的LLM来标记针对GenAI应用的受求数据，从而实现了对现有DLP系统可能遗漏的敏感数据的扩展审查。评委们就这些产品是否能够跟得上最新的人工智能技术提出了公正的问题，而参赛者也承认新模型可能会造成颠覆性影响，并需要具备未来防范能力。Harmonic分享了随着新LLMs的推出而替换他们的能力，这种灵活性可能非常关键。 LLMs在竞标演讲中的普遍使用表明，初创企业需要围绕LLMs的实施制定策略，以在市场上脱颖而出。 关键创新主题 创新机会存在于AI原生应用的各个层次以及攻击杀伤链中。2023年，初创公司主张提供一站式的AI保护解决方案；今年，初创公司正转向解决价值链上的客户问题，同时更好地掌握自身使用这项技术的方式。我们遇到了在信息安全栈中把握机会的公司，尽管我们没有全面地绘制出应对这些领域的所有公司。下面的市场图展示了在会议中展示的解决方案范围和突出的供应商。其他有前景的领域包括AI工作负载身份管理、数据隐私与合规性以及AI应用的网络安全测试。 AI生成的安全团队事件报告 LLM在安全运营中的应用正在变得越来越普遍，Aqua Security、Checkmarx、Elastic、Securonix、Palo Alto Networks、SentinelOne和Stellar Cyber等公司在2024年RSAC上发布了基于LLM的产品。微软吹嘘其安全Copilot产品的增长，披露有359名客户使用该AI产品，周增长率为23%。尽管如此，其中一些功能最终可能成为公司核心产品的干扰，而初创公司可以独特地围绕数据分析平台的新发展构建其价值主张。RSAC突出了三家为安全运营中心自动化构建定制LLM的初创公司：Culminate、Dropzone和Radiant Security。Culminate和Dropzone专注于事件报告创建，而Radiant专注于警报分诊和自动修复。这些公司一致寻求自动化一级分析师——这指的是难以招聘和分配时间的初级安全人员。在RSAC之前，Dropzone宣布完成由AI专家投资者Theory Ventures领投的1690万美元A轮融资，展示了其解决方案的新颖性。Culminate从RSAC Launch Pad VC评委那里获得了积极的反馈——包括来自Bain Capital Ventures和Ballistic Ventures的信息安全专家以及AI专家Conviction Partners——引起了关注，建议专注于中等市场客户。Radiant在2023年第四季度筹集了1500万美元的A轮融资，并已开始宣布商业合作伙伴关系。我们相信，这些公司可以通过LLM对各种编码格式的智能来产生强大的数据学习效果，并可能成为未来的安全平台。鉴于人员和流程的优先级，AI在信息安全社区中永远不会完全被接受，但我们相信，开发人员对AI编码共乘的采用将在未来两年内扩展到信息安全从业者，以增加工作流程。 人工智能内容过滤 初创企业针对网络、应用、身份和数据层解决了生成式人工智能（GenAI）的内容交付问题。基本担忧在于员工访问如ChatGPT等常见AI应用引入了新的威胁模型，但对于这个精确的威胁模型仍不明确。在实践中，AI用户可能会泄露数据，生成有害或不正确的输出，并从公司文件中接收特权信息。然而，GenAI的采用仍然处于初级阶段，大多数公司认为收入增长将在今年晚些时候或2025年实现。早期AI保护公司Portal26表示，客户希望对所有GenAI应用有可见性。该公司可以通过安全Web网关的网络流量分析检测任何GenAI交互。该解决方案监控所有发送到任何应用的提示，并加密这些结果以对GenAI通信的类型和风险水平进行分析。这种方法开始为早期GenAI采用者带来显著的企业合同。同时，在网络安全解决方案（如防火墙和安全Web网关）的层面上运营的早期初创企业Blueteam AI也向我们展示了其价值，该企业可以通过网络流量分析实时执行敏感数据出口策略——同样在加密数据上操作——展示了与现有网络安全解决方案集成的价值。 Harmonic Security 采用不同的方法，通过使用定制的LLMs对最流行的GenAI接口进行行内数据过滤。公司使用一组在特定敏感数据类型上训练的小型模型来检测流向GenAI应用程序的数据中的异常。该产品作为ChatGPT的浏览器扩展开发，表明除了数据保护和网络流量分析之外，GenAI应用程序还需要应用安全解决方案。公司的下一阶段是保护即将到来的采用浪潮中的Microsoft 365 Copilot。Launch Pad参赛者Knostic基于AI模型类似地过滤内容，但通过访问管理策略而非数据安全控制来缓解风险，只产生适合用户角色的AI响应。组织可能需要数据和访问控制作为其应用的护栏。 鉴于通用人工智能（GenAI）对定制数据库（如向量数据库）的快速采用，需要一个通用人工智能数据安全层的需求凸显出来。我们曾经讨论过数据丢失预防（DLP）领域的创新不足，考虑到公司在大规模应用加密于高价值数据时面临挑战，这一类别仍然容易受到颠覆。Antimatter和Bedrock Security提出了保护流向通用人工智能应用的流数据的可扩展架构，其中Antimatter为应用访问创建了加密数据容器，而Bedrock Security则在大规模应用人工智
