生成式 AI 对精神病学和政治学的影响 （ 汉 ）

Gartner 网络研讨会Gartner 提供可操作的、客观的洞察力、指导和工具 ， 使您的组织的关键任务优先事项 增强您的网络研讨会体验问一个问题下载附件再次观看受限制的分销2© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 人工智能对治理和政策的影响与 Gartner 联系受限制的分销3© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。罗恩 · 弗里德曼高级董事分析员Lauren Kornutick董事分析师 受限制的分销4 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。170 万人使用过 ChatGPT 。近 70% 在工作中使用 ChatGPT 的人没有告诉老板这件事 * *• 在发布后的前两个月•* * 来源 ， 商业内幕 受限制的分销5 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。尽管对 AI 感到兴奋 ， 但将近三分之一的企业在评估风险时禁止使用 GenAI来源 ： 2023 年 Gartner IT 领导者对软件工程的生成 AI 进行民意调查 受限制的分销6 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。AI 的好处大于风险同意的受访者百分比27%不知道68%Yes5%Non = 1, 079资料来源 ： 超越炒作 ： ChatGPT 和 Generative AI 网络研讨会的企业影响 ， 2023 年 4 月 21 日问 ： “您认为生成 AI 的好处大于风险吗 ？ ”有关更多信息 ， 请参阅 Executive Pulse ： AI 投资从 ChatGPT 炒作中获得提振 受限制的分销7 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。尽管对 AI 感到兴奋 ， 但超过三分之一的企业缺乏使用 GenAI 的指南来源 ： 2023 年 Gartner IT 领导者对软件工程的生成 AI 进行民意调查 受限制的分销8 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。了解用例和风险评估风险作为治理模型的输入在政策指导中平衡用例和风险偏好路线图 受限制的分销9 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。了解用例和风险评估风险作为治理模型的输入在政策指导中平衡用例和风险偏好 受限制的分销10 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。什么是 Generative AI ？聊天 GPT一种 OpenAI 服务 ， 它将会话聊天机器人与 LLM 结合在一起以创建内容。它在来自多个来源的数十亿个单词的基础模型上进行了训练 ， 然后通过从人类反馈中进行强化学习进行了微调。大型语言模型 (LLM)在大量文本上训练的人工智能允许它解释和生成人性化的文本输出。基础模型大型机器学习模型 ： 它们在大量未标记的数据上进行训练 ， 经过微调并适用于广泛的应用。Generative AI(GenAI)从工件表示中学习的 AI 技术在模型中生成具有相似特征的新工件。来源 ： Gartner 受限制的分销11 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。来源 ： 生成 AI ： 障碍和用例平衡风险与用例LegalResearchDrafting总结Marketing生成广告文案内容生产 写入产品复制Sales 创建销售支持材料 培训内容软件Engineering AI 辅助配对编程代码生成代码documentation供应链条内部知识基础问题解决客户服务 对人工智能风险的担忧 ： 第 2 季度风险流星第 2 季度的主要新兴风险按风险评分1ScoreRank风险名称影响Score时间范围Score频率Organization财务规划不确定性第三方可行性云集中风险Mass GenerativeAI 可用性不确定性中国贸易Tensions排名影响时间Tensionsn = 249受限制的分销12© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。来源 ： 第 2 季度 Gartner 新兴风险调查1 风险评分 ： 风险评分 = 立方根 （ 影响 × 逆时限 × 频率入选前十大新兴风险重估 ）1第三方生存能力 2.911.9267%2Mass Generative AI可用性2.922.2066%3FinancialPlanning2.711.7362%4云浓度Risk2.902.2362%5ChinaTrade2.802.0256% 受限制的分销13© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。资料来源:法律和合规负责人需要了解的大型语言模型风险LLM 输出可能由于工具无法理解内容或培训不准确而出现故障材料。不可靠的输出DescriptionRisk网络安全不良行为者可以滥用 LLM 大规模访问信息或生成恶意软件攻击。第三Party第三方使用 LLM 工具可能会损害组织数据。监管合规性分散的、快节奏的人工智能监管环境使得很难跟上潜在的监管。GenAI 使用风险数据隐私和保密在一些 LLM 中输入的信息可以成为其训练集的一部分。知识分子Property输入的 IP 可能成为训练集的一部分 ， 输出可能违反版权或 IP 保护。消费者保护未能向消费者披露 LLM 使用情况的企业可能会失去客户的信任。责任与 LLM 输出相关的责任仍不清楚。在某些情况下 ， 用户对工具输出负责。模型和输出BiasLLM 工具可能产生有偏差的输出。 受限制的分销14 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。人工智能的社会风险预期无意的来源 ： GartnerGenAI使用事故错位 ， 寻求动力的 AI对社会的结构性影响MisuseDisrupt industries新的、规模较小的竞争对手 ， 由 GenAI 推动 ， 进入并颠覆行业大量生产错误信息和深度假货AI 幻觉导致不正确的决策内容和代码创建者的大规模失业目标与人类不一致的寻求权力的人工智能模型 受限制的分销15 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。了解用例和风险评估风险作为治理模型的输入在政策指导中平衡用例和风险偏好 受限制的分销16 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。部署模型可公开访问的生成性 AI行业定制的生成 AI系统集成的生成 AI怎么了?公开提供的大型语言模型产品将大型语言模型产品整合到软件或内容产品中的第三方供应商产品开源或专有 （ 可许可 ） 语言模型技术优点● 没有或低财务成本● 每个人都可以访问● 潜在的更高的法律准确性和对非公开法律信息的访问● 更强大的数据保护● 可能包括引文● 能够根据单个公司的需求进行定制● 与公司内部数据和流程轻松集成● 风险通常低于公共模型 （ 至少在数据丢失方面 ）缺点● 更高的隐私和 IP 风险● 更高的 “幻觉 ” 风险● 需要更精确的用户输入和培训● 无引文● 可能不是当前● 成本较高● 灵活性和能力的限制自定义● 快速变化的市场 ； 选择可能很困难● 需要强大的内部技术能力和维护ExamplesOpenAI 的聊天 GPT ， 谷歌的吟游诗人Casetext CoCounsel 或 HarveyHugging Face 中包含的模型 ， 需要技术团队将其集成到现有的企业系统中 受限制的分销17 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。风险概况各不相同来源 ： Gartner ， 说明性数据 受限制的分销18 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。了解用例和风险评估风险作为治理模型的输入在政策指导中平衡用例和风险偏好 受限制的分销19 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。治理 AI 的多种方法 受限制的分销20 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。推动决策的四个因素来源 ： Gartner ， Generative AI ： 创建策略时要做出的 4 个决定 受限制的分销21 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。AI 策略的推荐结构• 目的和范围• 什么是 Generative AI ？• 与生成 AI 相关的风险• 可接受和禁止的用例• 用户义务• 监控• 未能遵守• 角色和责任• 相关政策• 报告信息来源 ： Gartner ， 工具 ： 生成性 AI 政策模板 受限制的分销22 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。利用现有治理结构IT 合作伙伴关系•合规、隐私或风险委员会•与隐私、 IT 安全、人力资源、法律和业务线索•用例和批准的存储库•DLP 工具•阻止应用程序•一致的纪律未经授权使用或部署第三方应用程序培训和沟通第三方风险•董事会培训达到风险容忍度水平•更新 InfoSec 、隐私或行为准则培训 ， 以将生成性 AI 置于上下文中•合同变更项目•扩展到包含机密信息的应用程序•要求透明度和第三方通知政策是不够的 - 治理 + 控制来源 ： Gartner 23 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。IBM 的焦点参与受限制的分销来源 ： 改编自 IBM 焦点分流流程受限制的分销24© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。来源 ： 改编自 IBM 受限制的分销25 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。Recommendations了解您的企业希望如何使用和目前正在使用 AI ， 以及这样做的好处 与您的执行团队合作 ， 定义可接受的用例在指导和治理与企业希望如何使用它所产生的风险之间取得平衡 受限制的分销26 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。我们支持的其他地方• Pan - Gartner 专家团队应对多个角色的趋势• 基准数据 ， 为您提供来自同行的洞察力• 新的 AI 资源中心 ， 对多个主题进行深入研究• 帮助在整个组织中进行沟通的工具和模板• 支持您的专家团队 受限制的分销27 © 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。问演讲者 受限制的分销28© 2021 Gartner, Inc. 和 / 或其附属公司。保留所有权利。Gartner 会议 2023 - 2024访问更多研究支持的见解 ， 以掌握您的角色并转变您的业务。查看全球 Gartner 会议日历 ： gartner. com / cal 战略规划要点如何避免 7 个代价高昂的计划错误 - 采用一页模板来传达您的计划□立即下载 第 23 季度 Gartner 业务季刊AI 在这里和现在立即下载© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。 2510876 受限制的分销© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。Gartner 在社交媒体上在社交媒体上关注我们 ， 以获取最新的见解和趋势。跟随我们 受限制的分销32© 2023 Gartner, Inc. 和 / 或其附属公司。保留所有权利。了解更多成为客户客户可以全天候访问经过验证的管理和技术研究 ， 专家建议 ， 基准测试 ， 诊断等。填写表格以与代表联系并了解更多信息。或者给我们打电话 ： + 441784614280