2026通过运营数据库充分释放AI的潜力指南

您的AI应用和智能体开发指南。 目录 第1章利用数据库构建更出色的AI应用和智能体第2章支撑成功AI应用的六大支柱性原则第3章为AI应用提供支持的技术第4章这些技术的实际应用第5章依托Google的创新构建应用0107051621 第1章 利用数据库构建更出色的AI应用和智能体 每个人都在使用AI构建内容。它可以改善搜索效果，实现个性化的客户互动，提高开发者的工作效率，甚至可以编写睡前故事。 但作为开发者，您很清楚这种热闹背后的真相。在简单的AI演示版与可用于生产用途且值得用户信赖的企业级应用之间，存在着巨大的差距。 在AI时代，开发者势必将成为企业创新的核心，他们不仅是代码编写人员，更是重要的利益相关方。通过将强大的模型与可靠的数据相连接，他们能够以独特的优势生成关键分析洞见，从而推动业务战略的制定并确保满足客户的期望。然而，这种转变也带来了一系列挑战。 这是因为通用AI模型只能回答一般性问题。但大多数应用都需要回答具体问题（例如“我的账户余额是多少？”或“8号尺码有现货吗？”），这就需要集成针对具体业务的运营信息。您的数据库可以弥合这一差距。 借助运营数据库，您可以打造具有实时准确性、与用户体验相关且能够在企业级环境中保持可靠的应用和智能体。 本指南将为您介绍如何快速上手。 想要立即开始？ 请了解支撑成功AI应用的六大支柱性原则 前往第5页 提升用户体验 当今的用户希望他们的问题能够迅速获得准确的回答。因此，您的应用面临着巨大的压力。 基础模型 用户要查找的大部分信息都存储在您的运营数据库中，例如CRM、ERP和电子商务数据。 基础模型通常是一个使用大量通用数据训练而成的大语言模型(LLM)。它可用于生成文本和其他内容，以及执行其他自然语言处理(NLP)任务。许多基础模型都可以理解和处理不同类型的格式，例如图片、音频和视频。 问题示例： 快递什么时候能送到？ 由于基础模型使用通用数据训练而成，因此可以轻松回答一般性问题，例如“法国的首都是哪里？”。但它们的知识仅限于训练时所用的数据。我们将探讨如何通过将基础模型与您公司的运营数据库集成，为基础模型提供所需的实时专有信息，从而弥合这一差距。 收到的商品是损坏的，可以换货吗？ 我附近的门店还有黑色7码的吗？ 通用AI模型无法独立回答这些问题，它们需要参考您的运营为了满足用户期望，将运营数据集成到应用中已不再是“锦上添花”，而是“必须在下个迭代周期结束前完成”的硬性要求。 数据库是智能体时代的燃料。运营数据库能够弥合基础模型与企业级应用之间的差距，帮助提供契合情境、相关度高且准确的用户体验。” Andi GutmansGoogle Cloud Data Cloud副总裁兼总经理 开发者将引领新浪潮 AI正在帮助企业应对挑战，而开发者是引领这场变革的先锋。 Uber正在使用AI智能体简化客户服务，从而帮助用户快速找到问题的解决方案。Deloitte构建了“Care Finder”智能体。该智能体基于Google Cloud构建，通常可帮助寻求医疗服务的人员在不到一分钟内找到保险网络内的服务提供商。 在企业实现这些发生在特定领域的智能互动时，开发者扮演着重要角色。数据科学家对于打造为AI提供支持的复杂模型至关重要，但他们的专业知识却是一种稀缺资源。因此，各公司都在依靠软件开发者来弥合这一差距。这一转变将开发者推到了舞台中央，使他们成为针对特定领域将AI模型集成到智能应用的核心力量。 我相信我们正在进入一个“后训练时代”。在这个时代，应用开发者将主导使用AI解决业务问题方面的大部分创新。” 他们是如何进行创新的？ 他们采用了诸如检索增强生成之类的技术，使基础模型能够可靠地用于企业级应用；同时使用开源协议，更高效地将AI智能体和应用连接到自己的系统和框架；而且还借助嵌入实现邻近性搜索，尤其是在支持向量的数据库中。 Andi GutmansGoogle Cloud Data Cloud副总裁兼总经理 不确定如何充分利用AI来发挥开发者的优势？不用担心。读完本文后，您就会了解该如何做。 在新时代，引领潮流的将会是那些精通以最佳方式利用AI技术并将其集成到应用中的开发者。 让我们确保您能成为其中一员。 AI时代已经到来 目前的关键需求是获得针对具体业务的可靠数据。通过确保AI输出始终与真实的业务情境相符，您可以构建更可靠、更值得信赖的AI应用，从而提供准确且相关的分析洞见。 如今，AI不再只是“锦上添花”，而是成为了日常应用的基本组成部分：从在网店中显示实时产品库存状况，到自动根据竞品价格进行调价，AI无处不在。即使用户可能没有意识到，AI也会在后台运行，从而根据用户过去的行为提供个性化体验，并保护用户的数据免受潜在威胁的影响。 在整个技术栈中实现AI模型和智能体的潜力是巨大的。但作为开发者，您面临的风险也会随之飙升。当一个智能体能够跨系统执行操作时，其影响范围自然比只能回答问题的简单聊天机器人更大。如果说事实错误还只是个问题，那么在生产系统中执行错误的操作则会酿成危机。因此，必须以信任为基石进行架构设计：在应用的核心部分构建强大的安全保障机制，以便在智能体执行操作之前验证其输出和推理过程。 AI模型已经取得了长足的进步，但要始终返回相关且准确的结果仍然充满挑战。 众所周知，模型偶尔会“出现幻觉”，这个术语是指AI模型生成的答案与事实不符，甚至毫无意义。由于AI模型具有不确定性，因此总有一定概率会生成不正确的答案。训练和预测所用输入数据的质量固然重要，但AI智能体与数据库的集成也同样具有重要影响。 即使面临高风险，解决方案也往往就在我们熟悉的领域。构建所有任务关键型应用时所遵循的原则（根据可信来源进行严格的验证和测试）也是构建安全AI的关键。这时，数据库就成了您战略的基石。它提供可验证的实时数据，因此可充当必要的安全屏障，让您能够放心地构建智能、可靠且快速的应用。 我们来看看企业级AI应用所适用的一些准则。 第2章 支撑成功AI应用的六大支柱性原则 最强大的企业级AI应用将让基础模型依托运营数据进行接地，以便增强基础模型的功能。这种方法是实现成功应用所依托的以下六大支柱性原则的关键：相关性、可靠性、可观测性、可伸缩性、安全性和成本效益。 相关性1 提供准确且契合情境的信息。 通过让模型回答依托持续存储和处理数据的运营数据库进行接地，您的结果将会更加准确、可提供丰富信息，并且能够细致地满足用户的具体意图。 AI应用如果能够实现这些支柱性原则，那么便可为用户提供最佳体验，同时最大限度地降低业务风险。 可靠性2 确保您的应用能够在您需要时正常运行。 为了帮助组织赢得用户的信任，请确保用户可以信赖您的应用。您的AI设置应具有高可用性，能够抵御故障，易于维护（且维护期间无需中断或停用），并支持灾难恢复。 可观测性3 了解智能体的“所以然”。 AI智能体可能就像一个黑盒子。可观测性为您提供了查看内部情况的工具。这意味着可以跟踪智能体决策过程的每一步（从初始提示到它运行的具体数据库查询以及检索到的数据），以确保可靠性并建立信任。 可伸缩性4 可按需扩展，亦可按需缩减。 能够灵活地扩容或缩容，而无需进行大规模的基础设施变更。寻找可实现横向扩缩（至少针对读取操作）和跨区域复制的解决方案。您的应用应能快速部署和扩缩，并以高吞吐量和低延迟运行。 安全性5 确保客户数据和公司数据的安全。 您已经确保数据库遵循安全最佳实践。请确保您的AI工具也能做到这一点。您需要制定AI安全政策，然后询问提供商的安全标准。强大的防御体系建立在每一层都内置安全机制的基础上。 成本效益 明智地构建，明智地支出。 AI模型（尤其是最强大的AI模型）的运营成本高昂，具体费用通常与API调用的token单价挂钩。成功的AI应用必须以可持续的价格提供价值，这就需要做出明智的架构选择。 现代数据库为实现安全性和可伸缩性等支柱性原则提供了坚实的基础，但这些原则并非可以直接启用的功能，而是需要进行精心的架构设计。最终，要靠开发者（也就是您）以数据库为基础进行构建，将这六项原则融入AI智能体的核心逻辑，从而构建真正的企业级应用。 我们来深入了解一下开发者正在使用的一些技术。 第3章 为AI应用提供支持的技术 用户希望获得及时且个性化的互动。但开发者发现，传统数据库由于AI功能落后而无法满足需求。值得庆幸的是，现代数据库拥有卓越且快速发展的AI支持，而且可以帮助您将这些新的AI功能提供给用户。 以下是现代企业用来构建AI应用的一些技术，这些技术可助力应用提供更加相关且可靠的结果： •长上下文窗口•专用AI模型•智能体间通信•工具•向量嵌入•向量搜索•检索增强生成(RAG)•编排框架 我们来分别了解一下这些技术。 长上下文窗口 这是一个人为设计的例子，因为简短的对话很容易适应典型的上下文窗口。但如果相关信息包含在之前的对话中，比如几万甚至几十万个token之前，那么聊天机器人可能无法给出优质的答案。 上下文窗口是指基础模型在生成回答时可以考量的信息量。因此，上下文窗口越长，模型在生成回答时可以考量的背景信息就越多。 “token”是语言模型中承载意义的最小文本单位。它通常略小于一个单词的大小。 长上下文窗口也会带来一些弊端。它比其他提高模型准确率的方法要慢，并且可能会带来新的问题，例如位置偏差、对信息放置位置的变化比较敏感、难以保持全局一致性或执行复杂的推理，以及计算成本高昂。模型供应商通常按token收费，因此较长的上下文窗口会增加您的费用。 假设有位用户正在使用一个旅行聊天机器人智能体，并提供了自己将在3月份前往巴黎的信息。经过几轮对话后，该用户问道：“你能根据我的行程推荐一家不错的餐厅吗？” 回答的质量将取决于上下文窗口的大小。模型上下文窗口之外的任何信息都不在考量范围内。因此，如果上下文窗口太小，模型就会不知道该行程的目的地。在这种情况下，它可能会出现幻觉或给出不相关的回答。 你能根据我的行程推荐一家不错的餐厅吗？ 专用AI模型 工具 在某些行业，人们正在从“一刀切”的庞大模型转向专用AI模型。这些专用模型基于有限但更深入的信息进行过训练，这一过程通常称为“微调”。对于某些应用，这将使应用和智能体能够回答更详细的问题。 AI智能体必须要能访问数据，才能采取有意义的行动。在AI术语中，工具是指可通过各种方式提供数据的特定函数，例如通过查询产品数据库、调用外部API或检索客户的订单记录。 举例来说，假设一家医疗机构想要打造一个专用AI模型，用来帮助诊断痣是否有癌变的风险。一种方法是采用现成的开放式AI模型，然后基于自定义数据集对该基础模型进行调优，以积累专门的知识。 通过为智能体提供一套可靠的工具，您让它们能够与实时数据交互并执行多步骤任务。问题的难点在于，智能体和工具要想协同工作（尤其是在多智能体系统中），就必须具有通用的语言。 在本例中，医疗机构可能会使用包含数百万条过往诊断记录的数据库来训练模型，这些记录包括症状的书面描述和视觉影像。在此过程中，他们会训练模型识别需要寻找的信息类型和需要注意的模式，例如不对称的形状和异常变色。这样，模型便能够根据数百万个过往案例做出可能的预测，并阐明相应预测结果。 这便到了模型上下文协议(MCP)发挥关键作用的地方。是一种开源标准，它的作用就像AI的通用适配器。MCP会提供一个通用接口，而不是为每个新数据源构建易损坏的定制连接器。这意味着，开发者只需构建一个工具（例如get_order_status函数）一次，任何理解MCP标准的智能体便都能使用该工具，而无需考虑用于构建该工具的框架。 智能体间通信 为了确保这些工具可供使用，需要将它们托管在充当安全网关的服务器上。此服务器通过MCP标准将您的工具提供给智能体。它负责与您的数据库建立安全连接，代表智能体执行函数，并以智能体可以理解的格式返回结果。 AI技术经历了迅