麦肯锡在创建其生成式 AI 平台时学到了什么

为了整合其庞大的知识库并推动新的生产力水平，该公司启动了一项开发生成式AI平台“Lilli”的旅程。 近一百年的麦肯锡的见解和知识作为该公司人工智能平台 ， “莉莉 ” 。在这一集在边缘播客,埃里克 · 罗斯， 麦肯锡高级合伙人和全球增长和创新领导者 ， 加入高级合伙人LareinaYee为了讨论Lilli的开发和精心执行的过程，以及即时访问该公司知识产权如何彻底改变麦肯锡为客户服务的方式。 问题的意图及其精细调整答案的方式，使其对同事向客户传达时变得有用，非常“麦肯锡风格”。 它通过平台中使用的大模型和小模型的结合来实现这一目标。这可能是使其与众不同的第二个因素。它不是一个检索增强生成（RAG）实例。而是一个多种技术在软件栈中结合在一起的综合体，使我们能够做到之前描述的功能。“这是一个编排层”的概念是真实的，对于需要在监管、安全、访问和保护信息方面保持审慎和意识的组织来说，非常适切。 这个转录经过了清晰性和长度上的编辑。要在首选播客平台上收听更多关于前沿技术的对话，请关注该系列节目。 Lareina Yee:作为这项成就的母公司和产品负责人，您能否给我们介绍一下在开发Lilli过程中采用了何种方法？ Lilli 的起源 Lareina Yee:Lilli 是什么 ， 它是如何成为麦肯锡最常用的工具之一的 ？ 埃里克 · 罗斯 ：当我们开始时，这还是一项实验。因此，过程非常迭代，团队也非常小。最初只有四个人。而现在我们已经超过150人。但我们一直在从用户那里学习。在早期的日子里，我们进行了非常经典、观察性的民族志研究来了解我们的同事。 埃里克 · 罗斯 ：莉莉诞生于这样一个问题：“我们如何帮助麦肯锡的同事们访问我们最深和最广泛的优质洞察，并将这些洞察应用到他们的客户中？” 在我们开始调查时，ChatGPT突然爆发。 它强调的是：“专注于问题，以用户为中心。”我们有四个相对简单的领域，并且这些领域经得起时间的考验：“如何组建高绩效团队？如何通过生成式AI或技术增强的方式发展客户？如何提供独特的客户服务？以及在项目完成后如何保持高质量的沟通和联系？” 并且我们有这样一个想法：“如果我们用自己的信息进行训练会怎样？”Lilli最初是一个知识提取和合成工具，但就你提出的问题而言，它现在已经演变成一个协调层，基本负责协调公司内外多种类型的知识。 Lareina Yee:Lilli 与其他生成 AI 平台有何不同 ？ 这正是那四个领域。当然，在这些领域内，我们遇到了许多不同的挫折和需要解决的问题，但整个过程中我们始终坚守那个北极星。 埃里克 · 罗斯 ：莉莉在几个方面有所不同。首先，它针对麦肯锡和我们的客户服务进行了优化，这意味着它识别和响应的方式与此相匹配。 我们始终保持高度以用户为中心的做法是确保用户在整个开发过程中始终处于核心位置。我们的整个开发管道中的每一个元素，无论是我们在平台侧改进的栈中的某一部分，还是通过用户提供的新功能，都与特定用户的问题相关联。管道中没有任何内容在后端没有与用户问题相对应的部分。我们始终将这一点置于首位并加以强调，我认为这对我们非常有利。 Lareina Yee:什么是一些其他的 ， 意想不到的学习 ， 使这对用户有效 ？ 埃里克 · 罗斯 ：我们刚刚推出了我们的代理框架。目前，麦肯锡语气（McKinsey Tone of Voice）代理是我们在约2500人的beta组中使用最多的代理。该代理能够将任何文字内容转化为符合麦肯锡写作质量标准的样本。无论是针对合伙人、高级合伙人还是客户，它都能将杂乱无章或令人困惑的内容，特别是对于非英语母语人士而言，转化为即用型的内容。 Lareina Yee:你能告诉我更多关于你个人是如何支持麦肯锡采用莉莉的吗 ？ 未来的顾问 埃里克 · 罗斯 ：我询问 everyone，“你今天使用了 Lilli 吗？”每个团队会议的第一个问题都是“你们有人使用了 Lilli 吗？”很多时候他们已经使用了，但也有很多时候没有。因此，我认为作为公司的领导者通过自身行为进行示范并实际使用它是非常重要的。 Lareina Yee:存在大量的能力运用，这些看似细微但实际上相当重要的学习成果。能否为我们描绘一幅画面，展示麦肯锡咨询顾问在未来三年内（如果有的话）将会如何不同？麦肯锡的咨询顾问是商业领域人们接触了近一个世纪的专家，他们将会有怎样的变化？ 但在背后，有一套全方位的沟通和采纳计划持续进行，从你在加入公司时将如何使用Lilli整合到最早的培训，一直延伸到每季度我们进行风险和法律评估时，整个公司都需要完成这些评估。因此，Lilli 现在成为这些计划的一部分并非偶然。所以每季度你都会被提醒不仅如何安全使用数据，还要如何在这一框架内使用Lilli。 埃里克 · 罗斯 ：我们可以根据一些早期线索做出一些猜测。首先，麦肯锡顾问将更加依赖技术。他们将在电子表格或通过其他方式完成的大量分析工作将逐渐被与人工智能相关的工具取代。这种工作是否会被100%替代？我认为我们还不确定。 我的希望是未来的麦肯锡咨询顾问，乃至整个行业，将会花费更多时间激活他们的洞察，而不是专注于创造这些洞察所进行的分析。这将对我们的招聘标准、所需技能组合以及他们在特定项目中可能带来的经验产生影响。 并且在各个办公室之间，我们有Lilli用户组。十个办公室拥有Lilli社区，他们经常向我们提出各种想法。我们还举办培训 session。此外，平台本身还提供使用指南。您只需点击左上角，关于如何使用该平台的所有信息一应俱全，供您自行参考。 我的希望是，未来的麦肯锡咨询顾问，以及更广泛的行业人士，将会花费更多时间将他们的洞察付诸行动，而不是仅仅专注于进行数据分析以创造这些洞察。 并且所有这些内容我认为都值得讨论。但未来的咨询师可能会更加同情他人，在与人合作时会更加体贴。我也希望未来更加多元化，因为这样我们可以使更多的人能够做到以前无法做到的事情，并且在创造影响的方式上整体质量更高。 如果你想利用这些技术就变得越来越重要。 我认为你的问题稍微涉及了一些关于人类的影响，这些影响是真实的。我非常乐观。目前我最好的答案是：组织中将有一部分被称为“最小可行组织”：尽可能减少人员数量，并在适当或相关的情况下提供足够的技术支持。 好奇心是关键 Lareina Yee:阻碍人们前进的一个因素是数据。我们经常听到公司表示，它们的数据集不够好，无法使生成式AI对他们有用。你对其他面临这一挑战的公司有何建议和见解？ 所述所述，组织中的其他部分将会获得超能力，从而能够提升低绩效人员至平均或顶尖绩效人员的能力，使其能够完成之前无法完成的任务。技术不会包揽一切，但它将承担许多任务。我认为其中一个缺口在于教育和理解这些技术的本质及其运作方式。 埃里克 · 罗斯 ：我与一位CEO交谈时，她担心他们的数据不够好。我的建议是：“是的，你需要一个数据架构。你需要一个数据框架来思考如何标记和分类事物。你需要一些策展过程。”数据是这种技术能够发挥作用所需的一项要素。整理好你的数据是至关重要的。 Lareina Yee:并且这种教育和理解相对新颖。这并不是说两年前你就可以毕业并具备这方面的学位和专业知识。你可能只是少数几位拥有博士学位的学生之一。 不要害怕技术。您学习得越多，就越能理解它，并了解它如何应用于您的业务。 也许。但你是成年学习者，也是高级合伙人。你在学习旅程中经历了什么，对你来说，对于走在这条路上的领导者，你有什么建议？ 为了让用户实际体验产品并提供反馈，我们在能够推出的产品数量上不得不大幅放慢步伐。couldbuild. 当我们推出Lilli时，我们仅向大约2,500名同事推出了这款产品。我们有意地采取了谨慎的步伐，“我们将保持稳步前进。我们将保持团队规模较小。我们将从中学习，并将他们培养成倡导者。然后我们将逐步增加用户数量。” 首先 ， 我会说潜入. 不要害怕埃里克 · 罗斯 ： 关于这项技术。你了解得越多，就越能理解它，并认识到它如何应用于你的业务。其次，要保持好奇心。不要害怕提问。当我与人们讨论生成型人工智能（gen AI）时，有时我会暂停并问道：“大家都明白GPT是什么吗？”这让我惊讶的是，每次至少有一半的人对此并不了解。 我们在构建和发展这个平台的过程中嵌入了多种方法或策略，这些方法和策略强调并优先考虑通过大量迭代测试来进行学习。我们有alpha组，有beta组，还有一种叫做LilliX的实验性研究方法。所有这些措施都是为了真正推动最高程度的采用率和使用率。 故意建筑 Lareina Yee:我想转向关于产品本身的几个问题。我认为人们很想了解，在幕后，你们是如何构建这个产品的。你能谈谈你在测试与开发之间是如何优先考虑的吗？ 创新才刚刚开始 埃里克 · 罗斯 ：总有构建与学习之间的挑战。你可以更快地构建而非学习，因为构建涉及编码和组装技术组件，而学习则意味着等待和吸收新知识。 Lareina Yee:您如何看待 Lilli 及其在推理、精度和预测分析方面的能力 ？ 埃里克 · 罗斯 ：这些模型可能看起来能够推理，但实际上目前并不能做到。它们模拟了许多事物。当考虑到代理及其链式结构时，这些模型实际上可以复制看似人类逻辑和思考的过程。但目前我们尚未达到这一水平。然而，我提到了LilliX。在LilliX内部，我们正在与世界上一些该领域的顶尖思想家合作进行多项实验。因此，在这个小型团队中，我们实际上正在构建能够进行推理的模型。 埃里克 · 罗斯 ：我认为人工智能将使一系列以技术为基础的商业模式得以实现，这些模式不仅有可能改善人类生活，还可能改变企业创造价值和社会贡献的方式。我们过于专注于传统流程和工作方式，而这些方式因许多正当理由使得人类难以采纳。 自然语言处理能力强大的LLMs[大型语言模型]以及可以更像与人类同事或合作伙伴进行互动的事实，很可能改变这些技术融入企业和组织运作方式的方式。因此，展望未来，只要我们能够安全地进行，并且不忘记这些模型存在偏见，同时以尊重多样性的态度进行，AI和通用人工智能的可能性将创造新的可能性，这可能是我们今天还无法完全想象的。 Lareina Yee:最后两个问题 ， 埃里克。你是怎么想出你的产品的名字 Lilli 的 ？ 埃里克 · 罗斯 ：莉莲·多姆布罗夫斯基是第一位在公司工作时获得MBA学位的女性。她还帮助公司在20世纪40年代创建了档案——这与莉莉所奠定的基础非常契合——并且她是至少两项全球实践的发起人。 莉莲就是以莉莉命名的，她是一位创新者、企业家，也是公司在20世纪40年代初期的一位先驱。我们的用户社区认为选择她是非常合适的。在他们选择她之后，我们将名字简称为Lilli。 Lareina Yee:你与麦肯锡的历史创新因此 ， 最后一个问题是 ， 正如你所预想的那样 ， 是什么让你对人工智能时代感到乐观 ？ 埃里克 · 罗斯是麦肯锡康涅狄格州办公室的高级合伙人.Lareina Yee是麦肯锡湾区办事处的高级合伙人 ，也是麦肯锡联盟和生态系统计划的成员。