目录 03:关键发现 04:引言欢迎来到推理时代 08:第1节推理时代已至 20:第2节将AI视为基础设施 27:结语通过应用服务主动管理AI基础设施 29:关于本报告 2026年关键发现 在日益由AI驱动的威胁环境中,混合多云战略已成为企业运营的现实模式 在AI应用的发展过程中,推理正逐渐演变为一种分布式系统 •93%的组织在混合多云环境中开展业务运营•86%的组织跨本地、公有云和托管环境运行应用•98%的组织正在准备部署智能体AI•77%的组织预计AI Agent在身份和访问控制方面会出现问题 •各组织在生产环境中平均使用七个AI模型•78%的组织自行运行AI推理•52%的组织正在使用多模型编排来适配并扩展其AI模型•64%的组织允许使用AI调整策略或配置•用于提示词处理的应用服务对运营产生的影响最大 引言 欢迎来到推理时代 随着各组织在平均使用七个AI模型,AI推理已经跨过了一种企业往往只有事后才意识到的重要门槛。 《2026年F5应用战略现状调查》报告的结果表明,几年前仅作为AI实验开始的活动,如今已悄然成为组织架构的一部分。这种转变并非由AI模型的复杂程度定义,而是由推理现在如何嵌入生产系统、运营决策循环以及交付应用、产品和服务的管道来定义。 这一转变的一个标志是,调查受访者表示他们平均同时运行或正在积极评估七个AI模型。模型数量的增加并非源于新奇性,也不是因为某一个模型无法完成任务,而是因为企业需要使用多种模型来满足API兼容性、成本、可用性、数据主权以及合规等方面的需求。 超过四分之三的受访者表示正在自行运营推理,同样有77%的受访者报告称,相对于模型训练或微调,推理是其主要的AI活动。AI经济已从构建转向运营,而且这些组织不再仅仅是“使用”AI。他们正通过AI管理业务,将其从创新转变为基础设施。此外,数据显示,尽管88%的受访者报告面临重大挑战,但组织仍在大规模推进这一转型。 简而言之,我们已经进入一个多模型的世界,在这个世界中,推理不再像单一端点那样运行,而开始像一个分布式系统一样运作。 如果您认为多云应用交付已经足够复杂,那么多模型AI推理将更加复杂。在多个模型之间进行AI推理会带来与任何分布式生产工作负载相同的架构和安全挑战。当前的主要障碍不再是模型能力,而是组织和架构层面的可扩展性。 的组织自主运营推理服务 可扩展性成为了一个问题,因为分布式推理将重心从模型本身转移到了管理推理流量的系统上,这些系统负责对推理流量进行管控、路由、限制和监测。与分布式应用部署类似,管理这些系统往往需要使用多种工具,这也进一步增加了复杂性。与此同时,一些新的责任领域也随之出现,例如模型感知认证、语义滥用检测、基于Token的成本治理等。 和安全风险将会变得错综复杂,这些挑战会在交付、安全、可靠性以及治理等多个层面不断重复出现。 我们的数据显示,整合进展明显滞后:只有28%的组织表示已经通过单一的AI管理入口来简化开发者工作流。而其余组织仍在碎片化的控制面上进行管理,即使推理已成为其关键业务运营任务。 但是,这些新的推理职责与平台团队、安全团队或应用团队的现有职权范围并不完全对应。新的推理领域跨越了这些职责。企业通常也不会简单地要求现有团队悄然承担这些新的、陌生的工作。相反,企业往往会进行职能细分,建立新的团队,并采用各自偏好的工具。如果不进行专门的整合或融合,由此产生的复杂性 尽管如此,各组织仍在迅速推进多模型、分布式推理的应用,以优化AI赋能团队的方式。他们如何管理由此带来的复杂性,将在很大程度上影响当前乃至未来AI部署的成效。 这些发现共同指向一个结论:如果AI失败、停滞或成本变得难以承受,其原因并不会是模型能力不足。真正导致失败的,将是那些低估了AI所带来的运营重要性、复杂性以及安全风险的组织。如果决策者继续沿用零散的单点解决方案,止步于仅适用于部分AI系统的默认服务,以及使用传统解决方案解决AI时代问题,而不能前瞻性地做出应变,那么AI的复杂性将会很快超出其运营和安全管理能力。 请继续阅读,以了解更多关于当今应用交付和安全的洞察,以及F5关于这些数据对当下和未来的数字领导者意味着什么的观点。 的组织表示,与模型训练或调优相比,推理已经成为其最主要的AI活动 复杂性和安全风险变得错综复杂 另一方面,通过有意识地整合控制能力,并为团队提供跨模型的可观测性和保护能力,组织可以像在混合多云应用分发中已经获得的那样,从多模型AI中获得同样的效率、性能和创新优势。 第1节 推理时代已至 现代化的重点已经转向AI 缓,但并未停滞。2020年,现代应用平均占应用组合的29%。如今这一比例已达到53%,与2025年持平,这在一定程度上是因为过去一年中,各组织的关注重点已经大多转向AI。我们预计,现代应用在应用组合中的平均占比 仍将继续上升,只是增长速度可能会有所放缓。2023年,16%的组织表示他们没有计划淘汰剩余的传统应用。三年之后,这一比例几乎已经触及最低水平。 在某种程度上,数字化转型的整体格局已经趋于稳定。 组织已将传统应用现代化为本地云应用或软件即服务(SaaS),通过改变这些应用的运营方式来减少阻力。现代化的推进速度当前有所放 86%的组织跨本地、公有云和托管环境运行应用 应用分布已趋于平稳 调查问题:在所有已部署的应用中,大约有多少比例采用以下位置或部署模式? 调查结果:应用已经几乎均匀地分布在混合部署环境和模式中,而剩余的传统应用中只有少部分会被淘汰。 超过十分之九的组织(93%)正在管理混合多云环境。尽管应用迁移的速度有所放缓,但托管位置的多样性仍在迅速增加。受访者平均管理5个自有数据中心,同时还使用5个托管机房设施,总计达到10个基础设施部署地点。此外,平均每个组织还使用4个不同的公有云服务提供商。 多数组织管理着不止一个推理服务。平均每个组织运行2个推理服务,而五分之一的受访者管理着3个或更多。大多数组织希望能够对至少一部分推理服务进行自主控制和定制。尽管59%的受访者使用云服务提供商提供的公共实例,但几乎同样多的组织使用私有实例或自行管理开源实例。只有36%的组织主要依赖公共的AI即服务。仅有3%的组织完全没有使用AI推理服务。 混合多云部署已成定局 在这种复杂环境中,AI成为最活跃的发展领域之一。原型、概念验证和谨慎实验的时代已经结束。取而代之的是,组织正将AI作为业务不可或缺的一部分来运行。尽管面临诸多重大挑战,但组织仍在大规模推进AI应用。推理已经从一种新兴技术转变为必需能力,超过四分之三的受访者正在运行自己的推理服务。其中大 的组织正在管理混合多云环境 除了管理分布式推理服务外,98%的组织都在积极计划修改其面向外部的应用,以便与AI Agent进行交互。最常见的方法是部署具备身份感知能力的基础设施,例如使用高级负载均衡器,根据机器或智能体的身份来路由和管理流量。接近一半(47%)的组织预计将实施身份感知机制。约四分之一的组织正在专注于开发并规范面向公众的API,使AI Agent能够直接访问应用数据和功能。另有20%正在采用语义数据标准和数据增强,以确保AI Agent能够明确无误地理解信息的上下文和含义。 AI AGENT推动应用变革 调查问题:您计划如何修改面向外部的应用以与AI Agent协同运作? 调查结果: 98%的组织正在修改其应用以支持AI Agent访问,其中接近一半正在部署身份感知基础设施。 AI已经不再只是研发阶段的产物,它已成为嵌入日常流程中的生产工作负载,并对应用和业务产生实质性影响。 的组织正在修改应用以供AI Agent访问 可观测性与自动化为推理提供有力支撑 这种快速增长的采用曲线并不是企业简单尝试新工具的表现。相反,这表明企业已经普遍认识到:如果不能为这些系统持续提供结构化且具备上下文的信息,就无法运行AI或任何现代工具。因此,可观测性不再只是反映系统状态的一面镜子,而已经成为系统本身的一部分。 在类似的演变中,组织如今正持续将AI整合到其自动化工作流中。但在运维领域,AI已经不再仅仅局限于提供建议的角色。我们的调查数据显示,AI正迅速从主要作为决策支持工具,转变为具备执行能力的参与者——当然,这种执行仍在明确的控制边界之内。 AI推理已经成为企业业务常态,这一点也得到了我们关于可观测性和自动化调查结果的支持。 首先,运营数据已经从单纯的告警和报告工具,转变为运行时依赖的重要组成部分。其使用率从2023年的较低水平,跃升至2025年的80%以上,直至今日的近乎普及。 可观测性不再只是反映系统状态的一面镜子,而已经成为系统本身的一部分 运营数据的使用率大幅提升 调查问题:你们目前是否将运营数据用于以下[目的]?如果没有,计划在什么时候使用? 调查结果:几乎所有组织目前都在使用运营数据,或计划在不久的将来使用,用于获取洞察并驱动实际行动。 三分之二的组织已经在使用AI自动调整策略和配置,并加速自动化工作。这一比例甚至超过了近60%依赖AI生成建议来指导人工决策的组织。因此,对大多数组织来说,AI已不再是实验性技术,而是嵌入并活跃在运维控制循环中的关键组成部分。 这意味着AI并没有取代IT运维中的人类监督或责任归属。相反,AI更像是一个受约束的执行者,通过执行决策来增强控制循环,同时悄然改变决策者对自动化、可观测性以及现代系统日常运营方式的理解。 然而,我们的调查数据显示,完全自主执行目前仍被有选择地限制在那些影响可衡量且可逆的运维任务中。这些任务通常涉及成本控制或应用性能优化,例如流量调整和优化,以改善用户体验。在应用安全、合规以及业务风险等关键决策方面,人类仍然保持监督和控制。 AI正在参与IT运维 调查问题:请选择您如何在IT运维中使用AI进行自动化。 用于生成策略和配置调整建议,以满足既定的SLO 用于加速自动化工作 调查结果:AI正在从“顾问角色”转变为“受约束的执行引擎”。 用于自动调整策略和配置以满足既定的SLO(服务级目标) 未使用AI进行自动化 此外,无论AI在IT运维中是用于加速自动化、生成建议,还是调整策略,受访者都一致将可编程接口视为管理应用交付和安全服务的首选方式。在所有用例中,基于API的自动化排名最高。即使那些表示目前尚未使用AI进行自动化的受访者,也更倾向于使用基于API的机制来管理应用服务。这种对机器可读取治理方式的关注,有效推动了自动化运维的发展。 推理正在成为运营与价值的核心重心 此外,当被问及在AI架构中应用交付和安全服务在哪些方面具有最大运营影响时,受访者几乎一致指向围绕推理本身构建的能力。受访者认为价值最高的领域在于输入侧保护,因此优先关注输入过滤、注入攻击防护、记忆合并和提示词处理等环节。输出内容审核也被认为非常重要,但当前的主要重点仍然是保护输入端,以避免出现“输入垃圾、输出垃圾”(garbage in, garbage out)的情况。 我们从中得出两个重要结论。第一,自动化已经不再是运维的辅助工具,而是AI实现规模化应用的关键方式。第二,组织已经开始设计能够无需人工干预即可行动、响应和适应的系统,并围绕推理构建自动化能力,使其能够真正付诸实践。由于围绕某项工作负载的自动化深度通常是其成熟度的标志,因此可以认为推理正在进入成熟阶段。 64% 的组织允许使用AI调整策略或配置 这类关注在一定程度上源于组织对生成式AI所期望的价值。首先,大多数企业并不是在追求“创造力”。企业对生成式AI最主要的两项预期成果分别是:更快的决策速度(33%的受访者)以及通过自适应学习带来的生产力提升(32%)。这些属于控制平面的收益。它们依赖于将AI嵌入到运营工作流、决策循环以及日常执行中,而不是把AI孤立地放在一个聊天机器人界面后面。 速度与生产力是AI的核心价值 调查问题:您期望从使用生成式AI中获得的两大主要收益是什么? 调查结果: 更快的决策和更高的效率以微弱优