网络人工智能的兴起

五月2024 在ChatGPT公开发布几乎一年半后，生成AI（GenAI）的新前沿已经吸引了公众的想象力。对于商业领导者来说，GeAI的日益普及带来了一系列独特的挑战和机遇，因为公司开始探索增强甚至替换企业现有工作流程的方法。虽然我们已经开始看到GeAI影响一切，从公司如何开发软件到他们如何与客户互动，但我们最终仍然只是在平台转变的开始。这种转变可能与过去二十年来移动或云计算的出现一样具有影响力。 然而，这种出现如何影响首席信息安全官（CISO）如何保护他们的组织？安全领导者如何看待这个新兴平台在不断变化的威胁环境中的转变？保护GeAI应用程序的能力在多大程度上阻碍了它们被更广泛地采用？这些是我们的客户和他们的客户继续努力解决的一些问题。我们不是只关注GeAI及其扩散，而是选择探索。GenAI和网络安全的交叉点，或者换句话说，“CyberAI”。 CyberAI 名词[萨希-berey-ahy] 在这份报告中，近70%的CISO将GeAI的采用视为其组织的五大优先事项。与此同时，在接受调查的CISO中，几乎所有尚未改变其网络安全堆栈以应对GeAI激增的情况，他们预计将在未来三年内完成，这意味着新初创公司将有充足的机会帮助填补这一空白。这只是两个顺风，我们预计将推动更多关注CyberAI并加速初创企业的形成。我们相信，继续迫切需要使用GeAI解决方案将是未来几年的一个决定性趋势。CyberAI将对这一新景观的出现越来越重要。 利用GenAI解决AI基础设施、模型和应用程序中的漏洞或抵御外部、GenAI驱动的威胁和攻击。 *WeexpectthatourconceptualizationofGenAIwillevoluateasthespacecontinuedtoemerger.Ifyouwouldliketofurthercontributetothisdefinition,pleasereachoutatamccarty@svb.com. EmmaEschweilerDirector投资者覆盖范围硅谷银行 娜塔莉·弗拉托董事总经理投资者覆盖硅谷银行 安德鲁·麦卡蒂硅谷银行技术银行副总裁 网络犯罪的成本从2017年到2023年，网络犯罪损失增加了近9倍，在后COVID时代激增。这刺激了网络安全需求和支出的增加，推动了对该领域的投资。 CyberAI初创公司的形成 支持CyberAI基础设施来自CHIPS和科学法案以及国防部网络安全预算计划的政府资金是CyberAI领域增长所需基础设施投资的主要驱动因素。 新公司正在形成一个新兴的CyberAI生态系统。在2020年至2023年之间，成立的CyberAI公司数量是前四年的近2倍。 公司投资 转移攻击表面 VC投资CyberAI公司资本正流向这些新的CyberAI公司。风险资本（VC）投资者继续向网络安全和AI初创公司注资，使他们能够保持高消耗并专注于增长。 在过去的十年中，大型企业已经发展了他们的研究部门，以支持AI模型的增长。微软已经在OpenAI上投资了10亿美元，IBM自2020年以来已经收购了30多家公司，以增强AI能力。 许多GenAI应用程序的构建没有考虑到安全性，增加了潜在的漏洞。AI研究人员继续提高数据安全性，但支持有效LLM的许多因素仍然脆弱。 投资者对CyberAI基金的兴趣认识到该行业的增长，投资者正在战略性地关注CyberAI。在2023年筹集的美国VC基金中，那些提到AI作为专业的基金关闭基金的可能性几乎是那些没有的基金的两倍。 坏演员使用AI ChatGPT的普遍性 ChatGPT于2022年发布，将GenAI带给大众。虽然不是第一个大型语言模型（LLM），但它的广泛采用标志着企业和消费者与技术互动的长期结构转变。 AI不仅提高了合法的效率 企业，但也是网络犯罪分子。如今，骗子可以大规模生成可信的网络钓鱼电子邮件。仅在2023年，网络钓鱼电子邮件就增加了13倍。1 在21世纪初，随着智能手机变得无处不在，每个球场都必须向公司的移动战略致敬。今天，ChatGPT开启了AI的新时代。现在有超过7500家美国VC支持的公司将人工智能作为其商品和服务的一部分，投资者越来越多地将注意力集中在这一领域。 虽然不是第一个LLM，但ChatGPT将GenAI带入了大众，标志着长期的构造转变 企业和消费者与技术互动。在这种背景下，公司急切地采用人工智能来实现潜在的自动化和人类工作时间的增加。 公司规模（员工人数） 同时,部署新的AI技术在实施和安全性方面都是昂贵的。这可能就是为什么最大的公司在短期内最有可能使用或计划使用AI的原因。网络安全是公司的主要关注点，因为仅在过去的六年中，网络犯罪造成的总损失就增加了近九倍。为了解决这一问题，公司正在增加对网络安全的投资，其中大部分用于安全服务。 虽然最近人工智能投资的激增可能反映了一些咆哮，但人工智能有可能成为一个横向平台，在所有行业创造效率收益。 投资者在投资人工智能时真正投资的是什么？人工智能领域的大多数公司都没有开发核心技术，而是在寻找应用它的方法。部分原因是，即使人工智能不是他们的核心产品，初创公司也迫切需要将自己展示为人工智能。在参与AI的近700家美国公司中，筹集的资金超过 5000万美元，不到三分之一的人正在构建LLM或创建新的计算基础设施.1 尽管如此，利用人工智能——特别是在企业层面——是一项复杂的努力，而且网络安全正在阻碍更广泛的AI采用。这种风险的核心是数据安全。无论是在数据库中还是在AI应用程序底层的代码中，安全性通常都很弱，使开发人员和最终用户都面临风险。事实上，在对281项关于这一主题的研究调查中，研究人员发现了LLM中的几个漏洞，从安全和隐私问题到固有的模型漏洞，如数据中毒和后门攻击。 人工智能研究人员继续在数据安全方面取得进步，以解决这些弱点，但许多支撑一个工作的LLM仍然脆弱。在过去的十年中，解决这些问题的网络安全公司吸引了更多的投资。 然而，在早期的网络安全公司中，扩展可能很困难，因为企业通常会在初创公司完全扩展和广泛部署其安全产品之前为其技术购买初创公司。 专注于AI和网络安全的基金在原本沉闷的VC筹款环境中一直是一个亮点。 这些基金占2023年所有年份美国VC基金的17%。从某种意义上说，这并不奇怪。在2023年募集的基金中，那些提到人工智能作为专业的人关闭基金的可能性几乎是他们的两倍。那些没有。1 这些基金拥有广泛的公司基础，在过去几年中，对AI公司的投资激增。在2020年至2023年之间，成立的CyberAI公司数量几乎是前四年的两倍。交易活动保持同步，至少在早期阶段。 除了知名的风投,公司资助了CyberAI的大部分创新和收购。例如，自2018年Niesh Arora接任首席执行官以来，Palo Alto Networs已经完成了15笔以上的收购。这一收购趋势是Arora开发网络安全平台战略的一部分，尤其是在人工智能时代，他在2023年的一次采访中指出，GeAI “肯定应该创造更多的机会… …不仅是为了安全，也是为了科技公司。“公司对整合的关注并非Palo Alto Networs独有，还有其他著名的收购，例如CrowdStrie的三月。2024年购买云数据运行时FlowSecurity 安全解决方案，以支持母公司的产品供应。 2022年，风投开始向投资组合公司发出指令，要求它们延长跑道，削减烧伤，并专注于 效率高于增长，以a16z的“框架”为代表 2022年5月发布的“向下导航市场”。自 然后，创始人在很大程度上遵循了他们的建议。从2022年开始，VC支持的科技公司的收入增长开始呈下降趋势。在2021年底，年收入增长徘徊在40%-50%左右。到2023年底，这一数字还不到一半。公司越来越关注盈利能力，通常是通过缩减开支或削减增长计划。这一战略也反映在较低的EBITDA利润率上。 然而，对于人工智能和网络安全公司来说，情况就不同了。这些公司的烧伤程度往往远远超过其他VC支持的科技公司，而且在过去的三年里，人工智能公司实际上已经扩大了他们的跑道，多亏了有利的投资环境。尽管如此，该领域的公司正在处理其他部门收入增长下降的情况。部分原因是定义了一个新的销售流程。虽然网络安全公司通常向CISO出售，CyberAI公司的销售路径不太确定。如今，许多公司都在向首席风险官(CRO)出售，但展望未来，我们可能会看到更多的人工智能委员会的建立，以领导企业层面的CyberAI解决方案的收购。 根据本报告调查的CISO小组，迫切需要在组织内部利用GenAI。1超过三分之二的CISO报告说，GenAI是其组织的五大优先事项之一，对CISO施加更大的压力，以战略性地管理推出。为了管理与这些新的GenAI工具相关的实施和安全问题，大多数CISO都专注于内部开发安全功能。在高层次上，这是为了保持控制并最大限度地减少外部风险。尽管如此，集成外部解决方案比在内部开发新功能要容易得多，74%的CISO认为这在近期很重要。 然而，开发和部署GenAI工具只是成功的一半；在使用时保护这些系统至关重要。大多数CISO要么有特定的GenAI政策，要么正在成功应用现有的通用框架。CISO经常转向传统的网络安全工具，有些人认为GenAI更像是一种功能，而不是一种特定的安全工具。其他人继续评估他们的选择，寻找能够实现LLM各个方面安全的工具，从培训数据到实际使用。就细节而言，CISO报告了用于GenAI安全的各种工具。这可能反映了该行业的早期发展阶段，具有未来可能会有更多的整合。 随着企业大规模部署GenAI工具，CISO正在迅速做出反应以更新其网络安全定位并保护他们的组织免受更广泛的攻击面。在ChatGPT发布仅18个月后，74%的CISO已经改变了其网络安全堆栈的组成，其中大多数主要使用新工具来增强其现有堆栈。在26％尚未更改其网络安全堆栈的人中，几乎所有人都将在未来三年内添加新的网络安全工具。.对于CyberAI初创公司来说，这是一个增长机会，它们已经做好了填补这一空白的准备。 调查时,1CISO报告了各种各样的人工智能工具正在影响他们的组织，幸运的是，对于CyberAI公司来说，CISO预计网络安全预算平均增加13%。这表明，CyberAI初创公司有一个广泛的机会来解决从代码生成工具到知识管理系统的所有安全问题。 接受本报告采访的一位风投公司解释了CyberAI解决方案的机会：“本来可以进行数月的攻击活动将被压缩到数天或几小时。我们对这些“智能攻击”的防御很少。我们防御中的自动化变得越来越重要。未来将越来越成为AI与AI的对比。“ CyberAI是一个新兴的空间，对于许多重大退出来说，在开发周期中还为时过早。但是随着投资者和创始人接近这个行业，他们如何看待未来的退出机会？ 在新垂直发展初期，并购往往是最常见的退出途径。事实证明， CyberAI并没有什么不同。在最近的大型交易中，Wiz以3.5亿美元的价格收购了云检测和响应公司GemSecurity，而网络风险平台SilkSecurity则以1.5亿美元的价格收购了Armis。相关上市公司的强劲业绩和手头的大量现金为其他收购活动提供了强劲的推动力。 IPO可能需要更多时间，然而。一位受访者指出，“现在判断[网络安全和人工智能]类别是否可以支持大型IPO还为时过早，但我敢打赌 客户的需求将推动大约1亿美元的并购。“PitchBooData，Ic.对CyberAI队列的退出预期分析表明，虽然大多数人成功退出的可能性很高，但很少有人会通过IPO。不过，这可能只是时间问题，一位受访者预测，“对于IPO，时间范围更像是3-5年或更长时间。“这个行业正处于早期阶段。 无论是并购还是IPO。““AI将提高的“桌子赌注”网络安全公司.那些整合新功能有效地将区分自己，提供更多对他们的价值客户并将得到更好的接收在资本市场， “电子商务在互联网始于1996年，但直