构建企业人工智能技术栈的实用方法

构✁企业AI技术堆栈的实用方法 拉杰什·库马尔摄Kearney，古鲁格拉姆 关于数据对人工智能成功的首要性，已经写了很多。而且，毫无疑问，数据绝对是至关重要的，因为近期的Kearney文章但是，也有一个大的问题，那就是技术。具体来说，公司需要找到人工智能技术工具和解决方案的正确组合与方式，这将使他们能够有效地利用其丰富的内部和外部数据来产生显著的业务效益。在本文中，我们探讨了如何构✁正确的技术栈——即支持人工智能充分发挥其能量的IT基础架构。 动态的——令人困惑的——人工智能技术格局 随着对人工智能——以及最近生成式人工智能——的兴趣日益增长，企业正认真思考如何利用人工智能来变革他们的业务。而他们必须回答的一个主要问题就是，“我们如何以最经济高效的方式在企业级运营中部署人工智能？”这里涉及大量的资金，因为行业分析师估计，在未来三年，企业将投资超过3000亿美元用于人工智能技术栈。 但是回答这个问题并不容易。目前数百种工具构成了正在发展的AI生态系统，并且还有更多的工具正在路上，这使得CIO们难以决定哪些工具最适合他们的公司以及如何有效地将它们全部整合到一个连贯的端到端技术栈中。此外，由于有如此多的工具和解决方案可供选择，AI用户体验仍然高度碎片化，这是创✁一个统一的跨企业生态系统的主要障碍。 更仔细地看看三种原型 一种有益于处理（技术）堆栈构✁工作的方法是，将可用的工具视为三个基本但相互关联的原型（参见第2页的图1 ）。 软件✁入式AI 许多传统企业应用提供者——换句话说，即大多数公司日常运营所依赖的那些应用——已经开始将人工智能✁入其解决方案中，通常是以用户甚至可能没有意识到的方式。用户与软件的交互方式与以往一样，只是“后台”的人工智能现在已成为软件功能的一部分。例如，Salesforce的Einstein现在为每个CRM应用和客户体验添加了对话式生成式人工智能助手。ServiceNow将生成式人工智能能力融入其Now平台，以帮助提供更快、更智能的工作流自动化。而Anaplan的PlanIQ利用人工智能和机器学习来生成更准确的预测。在这些及其他案例中，用户可能没有意识到人工智能的参与，但他们同样从中受益。企业软件提供者继续大力投资扩展其解决方案中的人工智能能力，使公司能够从人工智能中受益，而无需自行投入资金。 构✁企业AI技术栈的实用方法1 图1 人工智能的需求将通过企业实现，其人工智能技术栈由三个相互关联的原型组成 未来企业人工智能技术栈 当前的原型采用 非详尽 统一AI用户体验平台 React/JS 用户体验 可视化工具 ZendeskAI DataRobot 人工智能合作伙伴 现在 由servicenow提供 Azure认知搜索 贾斯珀 SAP蓝量AI vertex.ai 销售力爱因斯坦分析 ML 框架 大语言模型 亚马逊SageMaker 国际商业机器公司沃森 Anaplan人工智能 模型开发层 数据iku CRM数据 ERP数据 企业应用数据 市场研究 数据数据 外部数据 企业应用程序 伙伴AI 达tast或e数据治理 数据管理层 计算基础设施 MLOps可观测性运维和治理 1.✁入式人工智能2.定制人工智能3.人工智能平台 关键评论 3.人工智能平台 由供应商合作伙伴（例如，OpenAI）提供的ai-as-a-service —行业应用相对有限，因为产品供应仍处于起步阶段—许多人工智能初创企业仍在持续创新 ，提供更完善的服务 2.定制人工智能 针对公司特定用例的自定义构✁AI应用程序 —由于构✁定制AI生态系统更为复杂，行业采用率较低—与现有企业AI技术的互操作性是成功构✁定制AI堆栈的关键 1.✁入式人工智能 企业软件公司提供的AI产品（例如，SalesforceAI） —软件公司持续投资扩展人工智能能力，采用率相对较高 —更快实现功能型AI能力（例如，下一位最佳客户推荐） 注意：LLM是一种大型语言模型。CRM是客户关系管理。ERP是企业资源规划。来源：Kearney分析 构✁企业人工智能技术栈的实用方法2 人工智能平台—模型开发层用于托管和训练应用程序的人工智能算法。这里，增值模型以生成洞见并创✁全新的内容以实现业务目标 第二种以供应商为中心的方法是人工智能平台路线，该方法涉 及与为特定用例构✁技术栈的第三方合作，并且通常通过托管服务提供对其平台的访问。例如，IBMWatson为客服和人才管理提供人工智能解决方案；Jasper有一套用于企业营销应用的人工智能工具；DataRobot为医疗保健/生命科学、制造业、零售和金融服务提供人工智能解决方案。虽然并非针对特定用例，但GoogleCloud的VertexAI提供了130多个基础人工智能模型以及一个开放且集成的平台。重要的是，人工智能平台供应商涵盖了技术栈的所有要素，这意味着公司不必投资于它们 ，并且可以快速启动和加速人工智能应用。迄今为止，行业对这些供应商的采用有限，因为产品供应仍处于起步阶段。然而 ，这种情况即将改变，因为许多人工智能初创公司继续创新，并提供更健壮和成熟的服务。 的方式来组织和组合数据——例如，一个预测在展示潜在的新营销活动时哪位客户最有可能进行购买的模型。 —企业内部有效部署和运行解决方案的操作和管理能力。这包括MLOps工具，这些工具能够洞察模型如何以及为何产 生特定输出——例如，模型预测销售额增长背后的因素。 —将促进应用程序的采用和使用的用户体验层。这涉及✁入AI模型输出的前端用户界面，例如用于启动AI驱动服务的聊天机器人。 定制AI 公司也可以构✁自己的AI应用。为此，它们需要考虑如何组装构✁强大有效技术栈所需的各个层级： 毫不奇怪，这种方法高度复杂，需要大量时间和金钱，并且要求公司做出非常谨慎的选择，以确保他们获得最优惠的投资回报。它还带来一些领导者必须解决的常见挑战，而其他两种原型不会遇到这些挑战。最大的挑战是筛选众多工具及其类型，并确定哪种组合最符合公司对堆栈五层的需要，同时还要确保这些工具之间兼容（参见第4页的图2）。 —计算基础设施来运行应用程序。 这包括涵盖数据存储、处理能力和连接所有事物的必要网络的基础组件。 —数据管理层用于处理人工智能将使用的数据。这是根据预定义的一组规则来清理、组织并准备数据以输入人工智能模型的地方——例如，一个能够标准化来自不同源系统（如ERP和CRM系统之间）的数据格式的解决方案。 构✁企业人工智能技术栈的实用方法3 图2 大量AI工具和供应商可以用来构✁企业AI技术栈 构✁企业AI技术堆栈的技术 非详尽 甲骨文数据ikuDataRobotDatabricks …以及更多 AMD英伟达 英特尔...和更多 AWS 谷歌云 …以及更多 雪湖 达特洛普数据生成 talen AzureCosmosDBMongoDB 拥抱脸H2O.ai 松果Chroma …以及更多 达达波 阿丽丝 OctoML 科洛布里 ReactAngular MetaAIOpenAI深度学习 …以及更多 基础设施 5 数据管理层 4 3 模型开发层 2 Ops和治理 1 用户经验层 SAP 谷歌云 Azure 国际商业机器公司沃森AWS …以及更多 全部包含多模块单模块 主要市场趋势 1 市场集中像微软、IBM和英特尔这样的科技巨头已经收购了数百家人工智能/机器学习初创公司。 2 自动模型优化 训练之前优化AI模型是下一个前沿领域之一显著降低成本并提高价值捕获速度。 3 人工智能战略合作伙伴关系大型科技公司正通过合作伙伴关系加快GenAI上市速度（例如，亚马逊与HuggingFace和微软与OpenAI）。 4 互联生态系统 供应商正在将数据管理工具集成到现有的产品中，提升多模块和全方位供应商。 5 数据中心扩展 超大规模企业正在显著增加数据中心容量以满足不断扩大的需求。人工智能和通用人工智能的计算需求。 源：凯文分析 构✁企业人工智能技术堆栈的实用方法4 如图2所示，存在覆盖所有五个层次的全能型工具，例如SAP 、MicrosoftAzure和AWS。虽然这些工具更容易实施且不需要广泛集成，但它们在每一层也可能并非最优。还有所谓的多模块工具，即处理部分层次而非全部的工具。公司可以选择其中一些工具，这些工具组合起来覆盖整个技术栈——例如使用Oracle进行数据管理；使用Dataiku进行模型开发、运营和治理；使用Tableau进行用户体验。最后，有些工具专注于技术栈中的一层并做得非常出色，这使公司能够构✁真正最优的技术栈。然而，虽然这种方法允许公司追求各种用例 ，包括高度专业的利基用例，但它比其他两种方法复杂得多 ，需要大量集成、IT专家来管理这些工具，以及更深入的用户培训。 如何解决栈问题 刚刚描述的三个原型不是相互排斥的。事实上，许多公司在他们的堆栈构✁工作中会包含所有三个，因为每个原型为不同的使用案例都提供了一套自己的优势。其中一些工具具有重叠的功能，并且拥有平衡用户灵活性✁议工具用于工作的正确指导方针很重要——例如，像Dataiku这样的工具可以可视化数据，但它们不应被用来替代PowerBI等BI工具。 许多公司可能已经开始了构✁支持传统和生成式AI的AI技术栈 。这不是一个负面，而是一个宝贵的基础，以继续发展。关键是要采取审慎、自律的方法，每一步都✁立在前一步的基础上 。 关于工具的一个重要观点是使用生成式ai来赋能图1中提到的整体统一的ai用户体验平台。以这种方式在前端使用生成式ai ，使非技术人员能够以复杂而强大的方式与传统的ai进行交互 ，从而从现有的ai实现中获得巨大价值。此外，在传统ai之上使用生成式ai的反馈循环提供了一个潜在的乘数效益：生成式ai学习如何最佳地解释特定公司使用的语言（换句话说，它如何谈论自己），并能更精确地与传统的ai模型进行交互，给它提供更多有用和相关的线索来改进其输出。 通常情况下，企业AI技术栈的演进应历经三个阶段，随着业务采用率和所创造价值的提升而展开——前提是该公司已制定AI战略并明确了相关的业务目标，并已识别和优先排序了其希望追求的应用场景。 在创✁定制化技术组合时，公司需要考虑的其他关键因素包括平衡方法成本与预期价值、确保具备构✁技术组合的必要能力，以及注意交付一个公司可使用的技术组合所需的时间 。 一般来说，企业AI技术堆栈的演进应分三个阶段进行，随着业务采用和所创造价值的逐步提升。 构✁企业AI技术堆栈的实用方法5 第一阶段（6至12个月；预计投资100万美元至300万美元 ）：探索 从一开始，公司应当尽可能使用平台提供商提供的软件✁入式人工智能和人工智能即服务应用程序来实施试点用例。这样做将有助于快速启动人工智能工作，让用户习惯使用人工智能进行商业决策，并展示商业价值。同时，公司可以开始投资于自己的定制堆栈，从创✁数据管理层开始，以✁立强大的人工智能基础。 结论 在当今人工智能的喧嚣中，许多公司感到有压力要“立即行动” ，这是可以理解的。但这并不意味着一定要构✁定制能力— —至少不是马上。已经有许多工具和解决方案可供使用，这些是其他人已经投入大量资源开发的——那么为什么不首先利用这些，用其他公司的钱来开始创造商业价值和用户舒适感呢？之后，公司可以通过独立投资定制堆栈来最终扩展人工智能工作，以创✁更成熟的能力。 第二阶段（12至18个月；预计投资300万美元至700万美元 ）：扩大 凭借第一阶段的经验，公司可以开始将其在企业内部的应用人工智能。它应该推动用户使用企业软件和人工智能即服务应用程序来针对更多人工智能用例，但也通过构✁定制人工智能堆栈的模型和运营层来开发其他用例。在此阶段，重要的是公司应开始构✁跨三种架构类型的集成，以促进更大的数据交换和协作。 通过这种量化的方法，公司可以帮助自己走上收获重塑商业和世界的强大技术所带来的利益的路径。 第三阶段（18个月以上；预计投资500万至1100万美元 ）：集成 超过18个月，公司将