从首席安全官的视角解码生成式人工智能的影响

CISO的思想 ：解码GenAI影响 500多名安全高管分享了AI如何改变CISO角色和网络安全格局 内容页 ...................................................................................................6 第一部分：GenAI和网络安全：风险与收益..................................................................................8第二节：CISO12的角色演变第三节：人工智能和适应性16 Boilerplates20 执行摘要 CISO对GenAI的观点：杰基尔博士和海德先生的奇怪案例 首席信息安全官（CISO）的角色在诸如证券交易之类的备受瞩目的案件之后再次受到关注 在2021年违规事件发生后，委员会（SEC）对SolarWindsCISO提出了欺诈指控。随着行业开始意识到生成AI（GenAI）的全部潜力及其对网络安全的影响，人工智能（AI）的使用增加使这一角色变得更加复杂。 GenAI以极快的速度推出，对CISO在其组织内保护关键数据提出了挑战。GenAI的民主化意味着它现在可以在每个专业和技能水平上使用，并带来了一系列的好处以及潜在的问题与进攻和防守网络安全能力。 Trellix委托独立市场研究机构VasoBore对北美的500家CISO进行了一项研究调查，以了解他们在其组织的安全运营中使用GeAI的感知风险和收益。受访者在一系列行业工作，包括金融，公共部门，医疗保健（公共和私营），制造业，能源，石油，天然气和公用事业。结果清楚地表明，CISO已经感受到了GeAI对其组织、团队和角色的影响。 76%的CISO已经在其组织中使用GenAI，其余24%的大多数计划使用GenAI。70%目前使用传统AI，26%的人表示他们计划在未来12个月内这样做，最常见的应用是预测分析软件和自然语言处理(NLP)工具。 CISO知道GenAI有能力彻底改变组织的运作方式。来自已经使用GenAI的组织的所有（100％）受访者认为它正在增强/增强网络安全流程和/或技术。 随着这项技术成为日常功能的重要组成部分，很明显 CISO和工作场所网络安全的未来正在重塑。CISO已经认识到了这些好处，91%的人对GenAI和AI将给他们的组织带来的前景和机会表示兴奋。平均而言，CISO认为GenAI已经或可以将他们组织的员工生产力提高38%。 来自已经使用GenAI的组织认为它正在增强/增强网络安全流程和/或技术。 91%的CISO对GenAI和AI将给他们的组织带来的前景和机会表示兴奋。 人工智能可以提供显著的优势，但几乎所有接受调查的CISO(99.8%)都认为有多个领域需要更高水平的监管，特别是围绕数据隐私和保护以及道德使用。 GenAI是一把双刃剑，具有启用和防御严重网络威胁的能力，CISO认识到风险。尽管CISO正在利用GenAI和AI，但几乎所有（99.8％）的受访者都担心网络犯罪分子使用GenAI 进行网络攻击的速度，频率和规模都在增加，特别是因为82％的CISO报告说，在过去六个月中，网络攻击的数量有所增加。CISO使用GenAI从自己的组织中预见的三大风险是道德和社会影响，结果/错误信息的可靠性以及数据泄漏。 CISO因其组织使用GenAI而预见的风险（适用于已使用或计划使用GenAI的CISO） 随着这些变化，下一个问题是CISO的角色将需要如何适应这种环境。与AI和GenAI保持同步至关重要，几乎所有受访者都表示他们的组织可以做得更多。 82%的CISO报告说，在过去六个月中，网络攻击的数量有所增加 受访者简介 2024年3月/4月采访了500名CISO（或同等学历），分为以下几种... 主要发现 •GenAI将有能力彻底改变网络安全劳动力的运作方式。CISO绝大多数表示他们理解其含义，并且100％相信该技术将增强/增强网络安全流程和技术。 人工智能是一把双刃剑；并且在错误的手中，它可能会带来重大的安全风险。几乎所有(99.8%)受访者担心网络犯罪分子使用GenAI进行网络攻击，攻击的速度（38％），频率（37％）和规模（37％）增加是最普遍关注的问题。 •随着GeAI的引入，Trellix高级研究中心在过去六个月中的网络攻击有所增加，有证据表明俄罗斯犯罪集团可能使用ChatGPT调查和收集其他网络犯罪分子的数据，以扩大和进一步发展其业务。CISO报告称最关注的是边缘计算，恶意学习，即时注入，AI驱动的机器人以及用于网络攻击的GeAI技术。 92%的CISO在没有明确法规的情况下使用GenAI将使他们的组织面临风险，几乎所有（99.8%）都同意在未来6个月内需要更高水平的监管;特别是围绕数据隐私和保护（55%）。 •公共部门非常脆弱，因为它在日常运营中采用GenAI的速度较慢，因此更容易受到攻击。 •在组织中引入AI/GenAI极大地增加了日常压力，68％的CISO表示AI正在增加他们的日常压力水平，31％的CISO表示显着增加。大多数CISO（92％）同意AI/GenAI使他们考虑作为CISO的未来。 随着网络攻击的增加，人工智能的压力越来越大，责任越来越大，这并不奇怪90%的CISO发现自己承受着越来越大的压力。 如果有的话，你对使用GenAI进行网络攻击的网络犯罪分子有什么担忧？ 第一节 GenAI与网络安全：风险与收益 GenAI改变了网络安全格局，使网络犯罪分子能够以前所未有的规模发动攻击。由于大型语言模型（LLM），如ChatGPT，现在免费或商业可用 对公众。这些进步使民族国家和犯罪行为者能够改善进攻策略，从本质上讲，将网络安全转变为军备竞赛，攻击者可以利用廉价的AI模型来超越传统的防御机制。ChatGPT的使用可以提高网络钓鱼等粗糙网络攻击的复杂程度。 GeAI为网络犯罪分子提供了增强的能力，以多种语言制作网络钓鱼攻击，语法和语法近乎完美，使组织更难检测到它们。OpeAI（ChatGPT的母公司）等公司一直在积极尝试减少这些威胁，并直接关注国家行为者。更艰巨的任务是如何检测非国家网络犯罪行为者，他们在网上的分散性质使他们更难追踪。 62%的CISO对他们组织的员工没有充分的信心来成功识别包含GenAI的网络攻击 CISO已经注意到组织内部的这些威胁和差距，62%的受访者认为他们对组织的员工队伍没有充分的信心来成功识别包含GenAI的网络攻击。尤其令人担忧的是，考虑到99%的受访者表示在过去六个月中经历 了网络攻击， 82％的网络攻击总体增加。主要关注的是GenAI将实现的网络攻击的速度，频率和规模。 CISO的思想：解码GenAI的影响 对安全的担忧也变得越来越依赖于部门，特别是在公共部门，以及CISO如何看待GeAI对数据保护的威胁和对攻击的脆弱性。在所有接受调查的人中，公共部门采用人工智能实践的速度最慢。这可能是由于预算限制和传统技术，自引入商用GeAI以来，该技术尚未更新。当数据出现时，速度缓慢尤其令人担忧。 清楚地表明公共部门(不包括医疗保健)据报道，网络攻击的增幅最大。 63%的CISO他说，他们的组织目前有一个行动计划，为员工提供人工智能工具使用和威胁检测的培训和指导 最有可能报告网络攻击增加的三大关键行业 公共部门也是CISO报告最低的行业，并制定了有关AI工具使用和威胁检测的培训和指导的行动计划。63%的受访者已经制定了人工智能培训和指导的行动计划。在考虑公共部门包含的 敏感数据和关键威胁时，这些漏洞更加令人担忧 基础设施面对对手，使CISO在该领域的作用尤其相关。基本功能的数字化使其面临独特的攻击。公共部门的CISO缺乏准备表明显然需要增加资金和扩大劳动力。 另一个令人担忧的领域是勒索软件攻击的普遍性，而将GeAI引入威胁环境只会增加这些风险。93％的CISO同意包含AI的勒索软件对其组织构成重大风险。在2023年上半年，勒索软件攻击在全球范围内增加了45％，并影响了关键基础设施，包括医院，制造业和食品供应。仅在美国，估计就有13亿美元。 使用GenAI目前正在增强/增强哪些网络安全流程/技术？ 从2022年中期到2023年中期，美国组织支付了赎金。CISO研究数据显示，医疗保健行业受访者关注的最高点是数据和隐私，62%的受访者将其列为他们最关心的问题。在众所周知受到勒索软件攻击的行业中，这尤其令人担忧，并且极易受到GenAI构成的威胁。无论这些威胁多么猖獗，CISO也认为AI可以提供一系列防御这些攻击。91%同意人工智能可以帮助保护他们的组织免受勒索软件的侵害。 93%的CISO同意包含AI的勒索软件是一个重大风险 为了应对不断发展的网络犯罪分子战略，CISO可以利用AI技术主动防御这些威胁。近一半（47％）的受访者认为他们已经在使用GenAI来增强安全内容创建，另有43％的受访者正在使用 它在安全测试和分析中。总体而言，调查数据显示，采用AI和GeAI作为网络安全对策的模式很有希望，84%的受访者认为这实际上可以帮助组织获得优于网络犯罪分子的优势。数据清楚地显示了AI和GeAI如何在网络安全中的风险和防御之间呈现复杂的平衡，但CISO愿意在这种不断变化的威胁中获得战略优势。景观。本报告第三节概述了其他感知或实现的这项技术的好处。 第二节 CISO的角色演变 维护采用人工智能技术的安全性和合规性。他们表示，他们个人对一系列问题负责，包括网络安全预算分配、网络攻击事件、技术采购以及供应商和第三方风险管理。CISO现在也比以往任何时候都更多地参与董事会，据报道，一半的人至少每季度与董事会会面，这突显了这一角色的责任水平增加。将GenAI引入这些行业增加了日常压力 各行业的CISO，公共部门CISO报告的压力水平最高，因为他们的日常运营受到在采用AI实践速度较慢的环境中管理敏感数据。CISO的角色比以往任何时候都更加重要，因为他们面临着前所未有的挑战。 CISO角色的责任也越来越大，备受瞩目的网络漏洞成为每日新闻周期的一部分，提高了CISO的公众形象，反过来，将它们置于严格的审查之下。诸如SolarWids和ColoialPipelie之类的大规模事件削弱了公众对组织保护关键数据的能力的保证。在SolarWids的案例中，该公司的CISO被SEC指控欺诈。此案导致向CISO角色转变，本质上是其组织的风险官员，并将责任置于单一角色上。在这些组织中引入AI和GenAI也增加了对CISO的审查，90%的受访者认为这让他们在角色中承担了更大的责任。 首席信息安全高级职员(或同等学历)首席技术官/首席信息官首席AI官 围绕AI的不断变化的监管格局和GenAI的商业采用使人们质疑CISO及其组织如何适应这些不断变化的政策和外部因素。总体而言，97％的受访者担心AI使用法规的变化，其中之一 关注的主要领域是使用人工智能来鼓励民族国家在其基础设施中植入高级持续威胁（APT）。地缘政治格局的影响也是一个令人担忧的领域，46%的受访者担心，如果这些外部威胁持续存在，网络攻击的风险会增加。这个话题是IT所表达的一个紧迫问题， 对技术和电信行业进行了调查，63%的CISO表示他们非常关注恶意民族国家行为者的威胁。监管机构必须与该部门密切合作，以识别其感知到的威胁，并与行业合作以保护系统免受APT的侵害。CISO本身也认为他们需要更好地应对这些不断变化的威胁，并且100％同意他们将面临地缘政治格局变化的影响。 绝大多数CISO（92％）表达了AI和GenAIthemconsideratetheirfutureintherole,bringintoseriousquestionhowpolicyand regulationneedtoadapttosupporttheroleoftheCISOa