A generative AI reset: Rewiring to turn potential into value in 2024

只有当公司对其业务进行更深入的组织手术时，才能获得生成的AI回报。 作者：EricLamarre、AlexSingla、AlexanderSukharevsky和RodneyZemmel 现在是时候进行生成AI（gen AI）重置了。2023年的最初热情和一系列活动正在让位于第二次思考和重新校准，因为公司意识到捕捉Gen AI的巨大潜在价值比预期的要难。 随着2024年成为Gene AI证明其价值的一年，公司应该牢记数字和AI转型的惨痛教训：竞争优势来自于建立组织和技术能力，以广泛创新、部署和改进解决方案。 希望通过Gene AI获得早期胜利的公司应该迅速行动。但是那些希望Gene AI为艰难而必要的组织手术提供捷径的人 可能会遇到令人失望的结果。启动飞行员（相对）容易；让飞行员扩大规模并创造有意义的价值很难，因为他们需要对工作实际完成方式进行广泛的更改。 让我们简单看看这对一家太平洋地区电信公司意味着什么。该公司聘请了一名首席数据和人工智能官，其任务是“使组织能够利用数据和人工智能创造价值”。首席数据和人工智能官与企业合作，制定战略愿景并实施用例路线图。 在扫描整个企业的领域（即客户旅程或功能）和用例机会之后，领导层优先考虑家庭服务/维护领域进行试点，然后作为更大的计划排序的一部分进行扩展。他们特别针对AI工具的开发，以帮助调度员和服务运营商更好地预测维修房屋时所需的呼叫和零件类型。 领导建立了跨职能的产品团队，他们拥有共同的目标和激励来构建一代AI工具。作为提高整个企业技能以更好地使用数据和通用AI工具的努力的一部分，他们还建立了一个数据和AI学院，调度员和服务运营商在培训中注册了该学院。为了为Geeral AI提供技术和数据基础，首席数据和AI官还选择了一个大型语言模型（LLM）和云提供商，可以满足该领域的需求并为企业的其他部分提供服务。首席数据和人工智能官员还监督数据架构的实施，以确保清洁和可靠。构建General AI工具所需的数据（包括服务历史记录和库存数据库）可以快速且负责任地交付。 我们的书重新连线：麦肯锡数字和AI时代的竞争指南（Wiley，2023年6月）提供了详细的手册，介绍了利用数字和AI技术实现广泛变革所需的六种功能。在本文中，我们将探讨如何扩展这些功能以大规模实施成功的Gene AI计划。尽管认识到这些仍处于早期阶段，并且还有更多需要学习的地方，但我们的经验表明，打破Gene AI的机会需要公司以以下方式重新调整其工作方式。 找出GenAI副驾驶可以为您带来真正的竞争优势的地方 围绕geAI的广泛兴奋及其相对易用性导致了跨组织的实验爆发。然而，这些举措中的大多数都不会产生竞争优势。例如，一家银行购买了数以万计的GitHb Copilot许可证，但由于它对如何使用该技术没有清晰的了解，因此进展缓慢。我们经常看到的另一个不集中的努力是公司搬家的时候。将Gene AI整合到他们的客户服务能力中。对于大多数公司来说，客户服务是一种商品能力，而不是核心业务的一部分。虽然在这种情况下Gene AI可能有助于提高生产力，但它不会创造竞争优势。 为了创造竞争优势，公司首先应该了解“接受者”（通常通过API和订阅服务使用可用工具的用户），“整形者”（具有专有数据的可用模型的集成商）和“制造商”（LLM的构建者）之间的区别。目前，对于大多数公司来说，制造商的方法过于昂贵，因此企业的最佳选择是实施接受者模型以提高生产率，同时构建整形器应用程序以获得竞争优势。 Gee AI的大部分近期价值与其帮助人们更好地完成当前工作的能力密切相关。通过这种方式，gee AI工具充当与员工并肩工作的副驾驶，例如，创建开发人员可以调整的初始代码块，或者为现场维护人员可以查看和提交的新部件起草申请单(参见侧栏“Copilot示例”，涉及三个生成AI。 原型”）。这意味着公司应该专注于副驾驶技术可以对其优先项目产生最大影响的地方。 跨三个生成AI原型的Copilot示例 例如，一些工业公司已将维护视为其业务的关键领域。审查维护报告并与一线工人共度时光可以帮助确定gener AI副驾驶可能会产生很大的不同，例如在快速和早期识别设备故障问题方面。gener AI副驾驶还可以帮助识别卡车故障的根本原因，并比平时更快地推荐解决方案，以及作为最佳实践或标准操作程序的持续来源。 •“Taker ”副手帮助房地产客户筛选房地产选项并找到最有前途的选项，为开发人员编写代码，并总结投资者的成绩单。 副驾驶员面临的挑战是如何通过提高生产率来产生收入。例如，在客户服务中心的情况下，公司可以停止招募新的代理商，并利用自然减员来潜在地获得实际的财务收益。 •“Shaper ”副驾驶员通过将生成AI工具连接到客户关系管理系统，财务系统和客户行为历史记录，为销售客户提供建议;创建虚拟助手以个性化患者治疗;并根据历史数据为维护人员推荐解决方案。 因此，为如何从提高的生产力中预先产生收入而制定计划对于获取价值至关重要。 Upskill您拥有的才能，但要清楚您需要的Gen-AI-特定技能 到目前为止，大多数公司已经对他们所需的技术一代AI技能有了相当的了解，例如模型微调、矢量数据库管理、提示工程和上下文工程。在许多 •“制造商”副驾驶是实验室科学家的基础模型制药公司可以用来寻找和测试新的和更好的药物更快。 在这种情况下，这些都是你可以训练现有劳动力发展的技能。那些拥有现有AI和机器学习（ML）能力的人有很强的领先优势。例如，数据工程师可以学习多模式处理和矢量数据库管理，MLOps（ML操作）工程师可以将他们的技能扩展到LLMOps（LLM操作），数据科学家可以开发即时工程，偏差检测和微调技能。 The learning process can take两到三个月to get to a prepared levelof competition because of the complexities in learning what variousLLM can and can ’ t do and how best to use them. The coders needto gain experience building software, testing, and valating 答案，例如。一家金融服务公司花了三个月的时间来培训其最好的数据科学家达到高水平的能力。虽然课程和文档是可用的-许多LLM提供商为开发人员提供训练营-我们发现，大规模构建能力的最有效方法是通过学徒，培训人员然后培训其他人，并建立从业者社区。通过团队轮换专家来培训其他人，安排定期会议让人们分享经验教训，并每两周举办一次文档审查会议都是实践。在建立从业者社区方面被证明是成功的(参见侧栏“所需的新生成AI技能样本”)。 重要的是要记住，成功的一代AI技能不仅仅是编码能力。我们在开发自己的Geeral AI平台Lilli方面的经验表明，最好的Geeral AI技术人才具有设计技能，可以发现解决方案的重点，上下文理解，以确保生成最相关和高质量的答案。协作技能与知识专家（测试和验证答案，并制定适当的策展方法），强大的取证技能，找出故障的原因（是问题的数据，用户意图的解释，关于嵌入的元数据的质量，或者其他的东西？），以及设想和计划可能的结果并在他们的代码中进行正确的跟踪的预期技能。一个本质上没有这些技能的纯粹的编码者可能对团队成员没有那么有用。 虽然目前的技能提升主要是基于“工作中学习”的方法，但我们看到在过去一年中学习这些技能的人的市场正在迅速兴起。这种技能增长正在迅速发展。GitHb报告称，开发人员正在“大量”开发Gee AI项目，2023年在其平台上创建了65, 000个公共Gee AI项目，比上一年增长了近250％。如果您的公司刚刚开始其Gee AI之旅，您可以考虑聘请两到三名高级工程师，他们为他们的公司构建了Gee AIShaper产品。这可以大大加快你的努力。 组建一个集中的团队来制定标准，以实现负责任的扩展 为了确保业务的所有部分都可以扩展Geeral AI功能，集中能力是自然的第一步。该中心团队的关键重点将是制定和制定支持规模的协议和标准，确保团队可以访问模型，同时将风险降至最低并控制成本。该团队的工作可以包括，例如，采购模型和规定访问它们的方法，制定数据准备标准，建立批准的提示库以及分配资源。 在开发Lilli时，我们的团队创建了一个开放的插件架构，并为API的功能和构建设置了标准。他们开发了标准化的工具和基础设施，团队可以在其中安全地试验和访问GPT LLM，具有团队可以访问的预先批准的API的网关，以及自助开发人员门户。我们的目标是，随着时间的推移，这种方法可以。 需要新的生成AI技能样本 帮助将“Lilli作为一种产品”（少数团队使用它来构建特定的解决方案）转变为“ Lilli作为一个平台”（整个企业的团队都可以使用它来构建其他产品）。 对于开发Gee AI解决方案的团队，团队组成将类似于AI团队，但数据工程师和数据科学家具有Gee AI经验，以及来自风险管理，合规性和法律职能的更多贡献者。拥有来自不同专业领域的资源的人员配备团队的总体想法不会改变，但是一个AI密集型团队的技能构成将改变。 以下是成功部署生成AI工具所需的新技能示例： •数据科学家:–及时工程–上下文学习–偏置检测–模式识别–来自人类反馈的强化学习–超参数/大型语言模型精细-调谐;迁移学习 设置可扩展的技术体系结构 构建Gen AI模型通常相对简单，但使其大规模全面运行完全是另一回事。我们已经看到工程师在一个星期，但发布一个稳定、准确和合规的版本，扩展可能需要四个月。这就是为什么，我们的经验表明，实际模型成本可能不到解决方案总成本的10%到15%。 •数据工程师: –数据整理和数据仓库–数据管道建设–多峰加工–矢量数据库管理 建立规模并不意味着建立新的技术架构。但这确实意味着专注于一些核心决策，在不破坏银行的情况下简化和加快流程。三个这样的决策脱颖而出: •专注于重复使用您的技术。重用代码可以将GeneralAI用例的开发速度提高30％至50％。一种好的方法是为已批准的工具，代码和组件创建源。例如，一家金融服务公司创建了一个生产级工具库，这已经得到了安全和法律团队的批准，并在团队的图书馆中提供使用。更重要的是花时间来识别和构建那些在最优先的用例中常见的功能。例如，同一家金融服务公司确定了三个组件，这些组件可以重复使用100多个已识别的用例。通过首先构建这些，他们能够为所有已识别的用例生成代码库的很大一部分-基本上为每个应用程序提供了一个大的开端。 •将架构重点放在实现世代AI模型和内部系统之间的有效连接上。为了让AI模型在整形器原型中有效地工作，它们需要访问企业的数据和应用程序。集成和编排框架的进步大大减少了建立这些连接所需的工作量。但是，列出这些集成是什么以及如何实现它们对于确保这些模型有效运行并避免产生技术债务的复杂性至关重要（公司在解决现有技术问题所需的时间和资源方面支付的“税”）。首席信息官和首席技术官可以为其组织定义参考体系结构和集成标准。关键元素应包括一个模型中心，其中包含可以按需配置的经过训练和批准的模型;标准API，充当将geeAI模型连接到应用程序或数据的桥梁;和上下文管理。和缓存，通过从企业数据源为模型提供相关信息来加快处理速度。 •建立您的测试和质量保证能力。我们建立Lilli的经验教会了我们优先考虑测试而不是开发。我们的团队不仅投资于开发每个开发阶段的测试协议，而且还调整整个团队，例如，明确谁需要在流程的每个阶段签字。这减缓了最初的开发速度，但通过减少错误和修复错误所需的时间来加快整体交付速度和质量。 确保数据质量并专注于非结构化数据来为您的模型提供燃料 企业从Gene AI模型中产生和扩展价值的能力将取决于其如何充分利用自己的数据。与技术一样，需要对现有数据架构进行有针对性的升级，以最大限