Gartner 网络研讨会Gartner 提供可操作、客观的见解、指导和工具 ， 让您的组织的关键任务优先事项 增强您的网络研讨会体验问一个问题下载附件再次观看受限分布2© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 生成 AI 对安全性的影响小组成员 - Peter Firstbrook ， Dennis Xu ， Kevin Schmidt 主持人 - Soyeb Barot© 2023 Garter, Ic.和 / 或其附属公司。保留所有权利。Garter 是 Garter, Ic. 的注册商标。及其附属公司。未经 Garter 事先书面许可，不得以任何形式复制或分发本出版物。它由 Garter 研究机构的意见组成，不应将其解释为事实陈述。虽然本出版物中包含的信息是从可靠的来源获得的，但 Garter 对此类信息的准确性、完整性或充分性不作任何保证。尽管 Garter 的研究可能涉及法律和财务问题，但 Garter 不提供法律或投资建议，其研究不应被解释或使用。您对本出版物的访问和使用受 Garter 使用政策的约束。Garter 以其独立性和客观性而闻名。其研究由其研究机构独立制作，不受任何第三方的投入或影响。有关更多信息，请参阅 “关于独立性和客观性的指导原则 ” 。. " 我们尊敬的小组成员主机Peter Firstbrook杰出分析师副总裁,安全与风险管理丹尼斯 · 徐高级董事分析师 ， KI 负责人 -技术专业人员的安全操作凯文 · 施密特安全基础架构分析师总监Soyeb Barot副总裁分析师,CoR - GTP（ Gartner 技术专业人员 ）受限分布4© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 大型语言模型 (LLM)生成 AI (GenAI)AI 技术 ， 从数据和模型中的工件表示中学习 ， 用于生成新工件。什么是生成 AI ？受限分布5© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 受限分布6© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 文本生成文本分类文本摘要化语言翻译问答代码生成偏见 / 道德错误的答案侵犯版权Deepfakes / 错误信息欺诈垃圾邮件 / 网络钓鱼能力有自己的一套风险...能力风险 / 误用受限分布7© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 那么 GenAI 将如何影响您的安全策略 &建筑...•数据盗窃 /中毒• Lack of best practices • upcoming regulation•多种消耗选项•影子 AI•数据隐私和版权受限分布8© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。•由于以下原因导致的风险供应商抢购•隐私和功效挑战•缺乏成熟度•技能增强•Attach Automation•内容生成 受限分布9© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。GenAI 进攻和防御使用的军备竞赛安全 Copilot紫色 AISec - PaLM夏洛特 AIPentestGPTPassGPT欺诈 GPT蠕虫 GPT9© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 Gartner 是 Gartner, Inc. 及其附属公司的注册商标。 受限分布10© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。GenAI 的防御性用法计划使用 GenAI 受限分布11© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。从您的 SaaS 安全清单开始确保用户提示和响应是安全的在接地期间强制授权安全使用 LLM安全消费 GenAI 受限分布12© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。6网络与系统Monitoring用例批准保护您的应用程序和托管环境使用安全和批准的 LLM安全提示 &响应数据安全的培训数据进行微调安全构建 GenAI 应用程序 生成 AI使用 GenAI 对 CISO 的建议•库存使用案例• 应用 AITRiSM• 管理技能•关注威胁媒介•用于检测的监视器漂移 •优先考虑弹性•作为特征消耗受限分布13© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。•确保可追溯性 • 措施改进•控制输入 / 输出•定义使用和隐私政策 什么是 AI 信任风险与安全管理 ？AI TRiSM ： 在 AI 交付中建立信任、风险和安全管理14© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 Gartner 是 Gartner, Inc. 及其附属公司的注册商标。 问演讲者受限分布15© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 Gartner 安全与风险管理峰会听取独立专家的意见 ， 了解现在最重要的是什么 ， 以及如何为未来做好准备。您将学习如何创建所需的安全性和集成风险管理计划 ， 使您的组织能够自由地发展和创新。了解更多: gartner. com / conf / security用代码注册WEBINAR独家折扣。2024 年 2 月 12 日至 13 日 | 阿联酋迪拜2024 年 2 月 26 日至 27 日 | 印度孟买2024 年 3 月 18 日至 19 日 | 澳大利亚悉尼2024 年 6 月 3 日至 5 日 | 国家港口 ， MD2024 年 7 月 24 - 26 日 | 日本东京2024 年 9 月 23 日至 25 日 | 英国伦敦在今年的会议上 ， 您将学习如何 ：设计安全的体系结构支持数字业务目标的技术解决方案调整您的数据隐私管理计划跟上快速发展的法规了解最新趋势在网络安全、云安全、应用安全、数据安全及相关技术© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 GenAI 计划工作簿要获得更大的 AI 影响力 ， 请强化 AI 战略的四个关键支柱 ： 愿景、价值实现、风险和采用计划。下载工作簿© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 Gartner 是 Gartner, Inc. 或其附属公司的注册商标。本演示文稿, 包括所有支持材料, 归 Gartner, Inc. 和 / 或其附属公司所有, 仅供预期的内部使用收件人。由于本演示文稿可能包含机密、专有或受法律保护的信息 d ， 未经 Gartner, Inc. 或其附属公司的明确书面许可 ， 不得进一步复制、分发或公开展示。保留所有权利。 受限分布© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。针对社交媒体上的 IT 的 Gartner想了解情况吗 ？ 通过 LinkedIn 和 X （ 以前称为 Twitter ） 与我们联系 ， 以获取最新的 Gartner IT 见解和有关研究 ， 事件等的更新。所有这些都是专门为 IT 领导者和决策者策划的。跟随我们寻找交付的见解你的收件箱?订阅我们的双周通讯。 受限分布19© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。了解更多成为客户客户可以全天候获得经过验证的管理和技术研究 ， 专家建议 ， 基准测试 ， 诊断等。填写表格与代表联系并了解更多信息。或者给我们打电话 ： + 441784614280 | + 1 855 637 0291上午 8 点 - 下午 7 点 ET上午 8 点 - 下午 5 点格林尼治标准时间周一至周五 获取更多 Gartner 见解下载研究幻灯片查看即将到来的按需 Gartner 网络研讨会gartner. com / webinars对此会话进行评级受限分布20© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 对此会话进行评级受限分布21© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。