释放生成式人工智能的潜力：政府机构面临的三个关键问题

公共部门实践释放生成 AI 的潜力 ： 政府机构的三个关键问题政府组织可能会寻求跳上 AI 的潮流 ， 但技术的复杂性可能会使他们的努力处于次要地位。我们的框架解决了一些关键的实施问题。本文是 Damien Bruce ， Ankit Fadia ， Tom Isherwood ， Chiara Marcati ， Aldous Mitchell ， Bj ö rnM ü nstermann ， Gayatri Shenai ， Hrishika Vuppala 和 Thomas Weber 的共同努力 ， 代表了麦肯锡公共部门实践的观点。2023 年 12 月 释放生成 AI 的潜力 ： 政府机构的三个关键问题2这只是一年自生成 AI （ geerative AI ） 工具首次引起全球公众关注以来。但是，Gee AI 的经济价值估计每年达到数万亿美元 - 尽管其风险开始使全球企业和政府感到担忧。Ge AI 为政府领导人提供了指导国家经济发展的独特机会 （ 图表 1 ） 。与此同时，他们面临着监测该技术的缺点并为其使用建立强有力的指导方针和法规的沉重负担。许多政府机构已经开始投资于由 General AI 实现的转型 ， 但是该技术的快速发展意味着很难预测它可以在哪里贡献最大的价值。在本文中 ， 我们讨论了公共部门组织在选择投资领域之前可能需要考虑的三个重要问题 ：—政府机构如何应对 Gen AI 的潜在风险 ？—公共部门实体如何开始改变自己的服务交付方式 ？—政府是否应该开发国家通用 AI 基础模型 （ 构建通用 AI 应用程序的核心模型 ） ？最后 ， 我们提出了针对刚刚开始实施通用 AI 用例的政府组织的八步计划。1.政府机构如何应对 Gen AI 的潜在风险 ？By now, the risks of gener AI — such as its tendicipature towards unpredictability, inaccury, and bias — are widely known. Government agencies face different risks than do private sector companies. For例如 ， 该技术可能被滥用来传播政治宣传或损害国家安全。如果政府雇员无意中通过提示将该信息引入基金会模型 ， 则机密政府数据可能会被泄露或被盗。Gen AI 模型的某些输出可能包含不准确的信息 ， 也称为 “幻觉 ” ， 这可能会削弱公众对利用这些技术的政府服务的信任。与许多私营部门组织一样 ， 政府机构面临着 Gen AI 的透明度以及解释 Gen AI 概念基础以及逻辑的困难的挑战。模型的决策和输出。后果可能包括公众对由 genAI 驱动的政府服务的接受度低 ， 以及意外影响发生时责任不明确。与所有组织一样 ， 政府实体也面临着犯罪分子可能滥用 genAI 进行强大网络安全攻击的风险。为了应对这些风险，许多国家 — — 如美国、澳大利亚和中国 — — 发起了创建人工智能法规和政策框架的举措，一些国家也扩大了现有的人工智能法规，明确包括通用人工智能。欧盟正在领导一项全球努力，为使用人工智能系统的任何产品或服务建立保障措施。美国许多州政府机构也发布了与人工智能相关的立法、行政行动和政策，重点是减轻人工智能系统的潜在风险 — — 通过强调人工智能的负面影响，透明地传达人工智能在政府中的使用情况，以及解决人工智能使用的伦理方面。 释放生成 AI 的潜力 ： 政府机构的三个关键问题3然而，在世界大多数地区，这些缓解措施仍处于早期阶段，而且一代人工智能正在快速发展，这意味着各国政府必须不断修订其法规以跟上步伐。一些政府组织已经开始在利益相关者 （ 尤其是最终用户 ） 中开展有关 geer AI 风险以及如何应对这些风险的持续意识计划。例如，英国的中央。附件 1数字和数据办公室发布了公务员安全和知情使用通用人工智能工具的指南。同样 ， 澳大利亚的数字转型局及其工业 ， 科学和资源部为政府机构提供了负责任地使用公开可用的通用人工智能平台的临时指导 ， 重点是道德人工智能使用 ， 安全性和人类监督。 释放生成 AI 的潜力 ： 政府机构的三个关键问题42.公共部门实体如何开始改变自己的服务交付方式 ？作为向公众提供服务的关键提供者 ， 政府机构可能会优先考虑这些服务的交付 ， 作为人工智能驱动改进的关键领域。我们的 “4Cs ” 框架可能是一个很好的起点 ， 它包括四个跨行业类别 ： 内容摘要和综合、编码和软件、客户参与和内容生成 （ 图表 2 ） 。我们看到的大多数新一代人工智能实现都属于这四个类别之一 ， 可以适用于私营和公共部门企业。—内容汇总和综合。此类别涉及从大型知识库中剔除最相关的见解。例如 ， 新加坡的 GovTech 开发了 Pair 应用程序 ， 该应用程序汇总文本并生成报告供内部使用。—编码和软件。软件开发可以通过使用 Geeral AI 编写代码和自动化测试来提高速度和提高生产率。然后需要根据用例的潜在影响、可行性和风险敏感性来确定优先级。例如，英国的 HM 财政部 （ 经济和财政部 ） 正在测试 GitHb Copilot （ 提供编码建议的 AI 对程序员 ） 以加速软件开发。—客户参与。客户和客户服务可以从一代 AI 应用程序中获得提升 - 例如 ， 在政府机构中 ， 聊天机器人可以回答居民的问题或为居民定制服务。德国海德堡市推出了 Lumichatbot ， 该国第一个数字公民助理。该工具使人们能够轻松浏览政府服务 ， 例如申请新身份证 ， 获得驾驶执照和注册居住地。—内容生成。 Gen AI 可以帮助生成各种各样的内容 ， 包括电子邮件、社交媒体帖子、合同和提案。例如 ， 美国国防部已经开发了一种名为 Acqbot 的人工智能驱动的合同编写能力 ， 以加快采购速度。Ge AI 的实施可以简化政府通常在教育，医疗保健，国防和情报以及城市发展等领域提供的广泛服务 （ 请参阅侧栏 “Ge AI 在政府职能和服务中的潜在应用 ” ） 。在所有这些领域，我们已经看到政府机构在外部和内部操作中实施了 gee AI 用例，这些用例属于我们框架的类别 （ 请参阅图表 3 和 4 ） 。例如，在面向客户的应用程序中，GeerAI 可以帮助公众浏览政府服务并获得实时语言翻译。在内部，Gee AI 可以起草演讲和官方信函等创意内容，简化复杂的官方文件，并一致按时生成财务报告和 KPI 。3.政府应该开发国家通用人工智能基金会模型吗 ？Some governments may 立志于开发基础模型 — the core models on which genen AI applications are built. But leaders of government agencies must be aware that this development requires considerable investment of time and resources. 释放生成 AI 的潜力 ： 政府机构的三个关键问题5构建、培训和维护 ge AI 模型的人才 ； 必要的计算能力 ； 以及解决构建和服务 ge AI 基础模型所固有的潜在风险的经验。这些模型中的几乎所有当前工作都是由几家大型私营部门科技公司 （ Cohere，Google，Meta 等 ） 和迅速流行的开源计划 （ 例如 Hggig Face，Stability AI 和 Alpaca ） 领导的。与全球私营部门的技术参与者不同 ， 政府组织根本缺乏在管理风险的同时开发基础模型的能力。例如 ， 违反知识产权和版权法可能会使拥有基础模型的政府机构面临诉讼 ； General AI 偶尔缺乏适当的附件 2来源归属使得在其回应中更难发现潜在的版权侵权。法律含义也适用于恶意行为者可能用来骚扰、恐吓或破坏个人和组织的操纵内容，包括文本、图像、音频和视频。用户可以通过利用训练特定基础模型的数据中的固有偏见来肆无忌惮或非法行为。因此，一些政府 （ 如冰岛和芬兰的政府 ） 选择与全球大型语言模型 （ LLM ） 提供商合作，通过添加专有数据和见解来访问其现有模型，并根据自己的需求进行扩展和定制。 释放生成 AI 的潜力 ： 政府机构的三个关键问题6开始的八个步骤对于刚刚开始涉足 General AI 的公共部门机构 ， 我们建议采取以下八步计划 ：1.定义您组织的风险状况。在确定您的机构的风险参数后 ， 设计一个计划来降低使用 gener AI 的风险 - 结合内部政策、指南和意识会议。2.政府机构可能会发现我们的 4Cs 框架有助于开发潜在用例列表 - 然后根据潜在影响和可行性对其进行优先级排序 - 同时避免具有高风险潜力或对错误的容忍度有限的实施。3.选择基础模型 ； 根据需要升级技术基础架构。大多数公共部门机构从现成的 LLM 开始，并使用专有数据进行微调，并与内部系统集成，以提供定制的结果。在极少数情况下，我们看到政府机构从头开始开发和培训新模型。当发生这种情况时，它主要是由开发国家资产、管理数据主权问题或减少对私营部门科技公司的依赖的愿望驱动的。4.确保具备必要的技能和角色。 “人工智能主管 ” 是最热门的工作之一 ， 政府将需要为此招聘 - 只有高级管理人员才能协调所有与人工智能相关的活动 ， 并确保有效解决风险。传统上 ， 政府没有人工智能工程师 ， 人工智能附件 3 释放生成 AI 的潜力 ： 政府机构的三个关键问题7道德官员 ， 或提示工程师 ， 但现在必须创建和填补这样的角色。5.与最终用户共同开发 genen AI 应用程序。 Gen AI 是一种快速发展的技术 ， 因此最终用户的早期参与不仅对于教育他们的隐私和安全 ， 而且对于收集他们的反馈以提高 LLM 响应的准确性和性能至关重要。例如 ， 用户可以为每个响应的质量提供定量评分。6.至少在目前 ， 将人类保持在循环中。在一代 AI 技术成熟和可执行的法规到位之前 ， 政府机构保持人类可能是谨慎的管理人员负责并使用 genen AI 实现仅执行模型 ， 而不是监控或评估模型。7.设计一个全面的沟通计划。在所有沟通工作中嵌入必要的免责声明 ， 以澄清 gen AI 用例的局限性并确保安全采用。8.从小规模开始 ， 扩大规模。我们的研究显示 72 ％ 的领先组织发现管理数据是扩展 AI 用例的主要障碍之一。在我们关于扩展世代 AI 程序的文章中 ， 我们确定了数据领导者在从实验转向扩展时应该考虑的七个操作。附件 4 释放生成 AI 的潜力 ： 政府机构的三个关键问题8General AI 在政府职能和服务中的潜在应用我们看到 gen AI跨不同公共部门领域的使用。这是一个样本。在教育中 ， gen AI 可以做到以下几点 ：—担任虚拟导师 ， 对论文进行复习和评分—充当学生助理聊天机器人 ， 提供来源良好的答案—帮助学生在研讨会和实验室 ， 通过实验指导他们—生成教具的初稿 ， 如讲座脚本和测验—根据学生档案起草大学申请的初始版本在城市发展中 ， gen AI 可以做到以下几点 ：—担任城市管理人员的设计合规助理—总结市民对城市规划者热线的反馈—初步城市规划布局草案 ， 以加强城市设计—设计最佳公共交通路线以减少交通拥堵—模拟城市设计影响 ， 如交通流量或阳光照射在税务和海关方面 ， gen AI 可以执行以下操作 ：—作为复杂的导入指导综合的虚拟助手—成为海关和税务官员的实时文件验证者—从不同的数据源生成风险评估摘要—为潜在的违规领域准备初步审计报告—担任实时报税指导的公共助理—为纳税人和贸易商准备个性化通知的初稿在农业、林业和渔业领域 ， Gene AI 可以做到以下几点 ：—对农民求助热线进行总结和分类 ， 要求及时提供部门援助—充当虚拟助手 ， 指导农民了解政府计划和福利—为更新的耕作技术提供个性化的作物管理咨询—分析作物和土壤图像