历久弥坚的 AI 基础设施：驾驭速度、规模和信任

驾驭速度、规模和信任 目录 打造坚实AI引擎. . . . . . . . . . . . . . . . . . . . . .2构建灵活AI架构. . . . . . . . . . . . . . . . . . . . . .4筑就可信AI基石. . . . . . . . . . . . . . . . . . . . .10聚势而强，共赢AI未来. . . . . . . . . . . . . . .14行动指南. . . . . . . . . . . . . . . . . . . . . . . . . . . . .18 IBM如何提供帮助 IBM所提供的AI基础设施，不仅具备安全、可扩展、开放与法律保障等核心特质，更能完美支撑高度动态且要求严苛的AI工作负载；同时，它更提供了一条可持续的AI运营之道，有效实现成本、风险与能耗的三重降低。要了解更多信息，请访问ibm.com/solutions/ai-infrastructure 摘要 成功的AI架构，应如精密引擎般运作：计算驱动、数据赋能、治理保稳。 组织普遍认同面向AI的混合基础设施，然理念先行，实践滞后。 70%的高管坦言，合适的混合基础设施有效兼顾性能与成本，然而，仅有8%认为，其现有基础设施能完全满足AI需求。 AI要想规模化，信任是前提，治理是根基。 83%的高管表示，有效治理是AI基础设施的成功根基；但仅8%落实风险管理，尽显知行鸿沟。 合作伙伴是AI成功的关键，然须谋定而后动，以战略眼光进行甄选。 高管们指出，合作未能充分释放价值，是制约AI基础设施投资回报的首要因素。然而，症结不在合作模式本身，而在于组织如何甄选与管理合作伙伴。 引言 打造坚实AI引擎 AI已在董事会议程中成为战略焦点，却未能带来匹配的商业成效。IBM商业价值研究院(IBM IBV)调研揭示，过去两年启动的AI项目，有近40%止步于试点阶段，未能全面推广。1然而，AI之困不在试点：底层架构割裂，制约了AI落地。 成功的AI架构，应如精密引擎般运作：计算驱动、数据赋能、治理保稳。然AI真正上阵时，隐患尽显：数据碎片化导致无法有效驱动AI模型，治理标准不一致使风险失控，基础设施平台难以承载现实工作负载。当AI迈向具备独立决策能力的智能体时代，组织必须以更专业、更协调的基础设施为其保驾护航。 为此，组织正重金押注，以求破局。IBM IBV最新调研显示，1200位最高管理层中，三分之二正加码基础设施投入，2025年预算平均增幅近19%。 但AI的成功无法靠预算堆砌，而是依靠系统性的建设与能力积累。 分析表明，具备高成熟度与基础设施就绪度的组织，共享一套共通基因，助其实现价值驱动的AI应用。（详见第17页观点：“AI落地的必备要素”）。这些核心能力，正是打造“有设计、有集成、有成效”的AI基础设施蓝图。 本报告聚焦驱动AI成功落地的三大核心要素： –灵活架构如何助力AI贯通全域数据流。–内生信任机制如何破壁AI治理困局。–战略生态如何破局AI人才与能力瓶颈。 报告最后，提出了切实有效的“行动指南”，为拥有不同AI成熟度的组织提供可落地路径，助力构建驱动创新与成果转化的基础设施。 “AI要成功，先定向，后行事。基础设施，只是赋能工具。” Adnan Kashwani阿联酋e&公司，端到端云与基础设施管理，副总裁 灵活架构，AI之基石 即便组织战略方向明晰，但AI落地仍受制于基础设施短板。62%的高管立志三年内实现跨环境AI部署，但仅有8%的高管认为，现有基础设施能完全满足AI需求。这一巨大落差，实为战略天花板，而非单纯技术鸿沟。 准备度差距的根源，是组织仍试图沿用在过去的IT环境下行之有效的传统规划方法，来构建复杂的AI能力。既定方法难以匹配AI的动态特性，大规模推理产生脉冲式算力需求，模型训练依赖广域性计算架构，而全流程资源消耗则呈现持续高压状态。 “AI竞赛胜负未定，让系统具备自我进化能力，可随时切换、灵活应变，以应对技术更迭与成本波动。” Hauke Stars大众汽车集团，首席数据官 AI时代，组织亟需重构基础设施规划思维，但前行之路受制于两大核心难题。 挑战一：如何在不牺牲安全或治理要求的前提下，让分散的数据为AI所用？企业数据的分散格局，既是历史遗留的结果，也源于隐私与安全策略的复杂性。高管表示，近三分之二的数据仍留驻本地，余下分布于私有云、公有云等混合环境中。数据碎片化正成为AI发展的致命瓶颈：多位高管一致指出，数据可访问性与可用性不足，是AI投资失利的核心症结。68%的组织正以数据结构方案打通数据孤岛，但仅42%对自身基础设施应对AI模型的算力与数据需求有信心。 挑战二：负载动态变化难以预估，如何构建可伸缩的技术弹性？大型语言模型(LLM)主导当下，但AI的未来属于多模型共融2，通用与专用并举。目前，已有43%组织采用混合模型策略，根据业务需求战略性组合定制模型、大型语言模型及小型开源模型。多模型并存带来动态负载变化，资源需求随时波动。这种动态变化构成完整的负载脉络：从高强度脉冲式的训练作业，到需持续稳定的低压推理流。然而，仅49%的高管相信，能够在未来三年内集成更小的开源AI模型，更少数(46%)认为，能实现大规模实时推理的高强度需求。传统方案导致组织陷入典型困境：选择资源错配的过度配置，或转向由供应商管理容量风险的即服务模式。 “数据是AI价值的基石，若无法顺畅连接、轻松调用，AI系统终将形同虚设。” Hiroshi OkuyamaYanmar Holdings，首席数字官兼董事会成员 打造灵活AI基础设施的四大核心要素 高管们正面临架构选择的战略分水岭。若缺乏计算、数据与模型三位一体的科学布局战略，组织必将陷入架构困局，被迫采用性能不达标且资源错配的解决方案。 为突破AI瓶颈，必须从四个维度构建系统化的基础设施方案： –专业计算资源。传统CPU虽能处理常规任务，AI工作负载却以跨越技术分水岭，迈向专用加速器时代。当GPU在训练领域树立通用标准时，而模型推理――即使用已训练模型进行预测的过程――则往往需要另一类专用硬件，它们专为优化吞吐量、成本与能效而设计。 –先进存储系统。高吞吐文件系统、可扩展对象存储及并行化数据仓库，共同构成AI数据架构的三大基石，有效应对海量训练集与复杂访问模式的挑战。 –高速网络架构。为满足分布式训练与推理的海量数据交换需求，AI工作负载必须构建于专为高带宽、超低延迟设计的网络体系架构之上。当模型步入巨量化时代且实时响应成为刚需，网络架构已与原始算力共成AI发展的双翼，缺一不可。 –智能调度层。容器统筹平台、专用模型服务架构与工作流管理系统，三者构成AI集群的智能调度中枢，实现异构工作负载的精准资源调控。缺失强健的统筹框架，再卓越的独立组件都会陷入“1+1<2”的系统效能陷阱，难以支撑企业级部署的整体要求。 混合范式：重塑基础设施的边界逻辑 四大要素唯有协同一体，才能发挥最大价值；而这离不开混合架构，即连接本地、私有云与公有云的统一体系。70%的高管确认，基于工作负载优化的混合策略，已成为推动成本与性能双重跃升的战略最优解。混合架构解锁的核心能力矩阵： –本地数据处理：AI在数据所在之处运行，既降成本，又避风险。–智能法规遵从：自动匹配不同地区和行业的监管标准。–增强安全管控：守护AI资产安全，抵御模型篡改与数据攻击。–动态环境匹配：让AI的每个阶段在最优环境中运行，实现算力与性能的完美契合。 面向特定场景的方案强调，AI训练与推理对基础设施的需求截然不同。训练阶段得益于大规模并行算力，推理阶段则讲究高成本效益、低延迟的解决方案，并需要更贴近数据源和用户。混合基础设施让组织为AI生命周期的每个阶段匹配最优环境。 如此一来，“混合”不仅是一个架构描述，更是一套深思熟虑的战略，旨在跨环境统筹调度AI能力。对此价值的共识正推动持续投资：超过三分之一(37%)的组织计划在未来三年内扩展其混合战略（见图1）。 图1 前瞻布局：组织制定均衡之策，让基础设施战略与AI发展脉搏同频共振。Figure 1 未来三年内，计划在各领域维持或扩展其战略的高管百分比 观点 迎战AI的“能耗洪流”：如何实现高效与可持续 AI的能源需求正呈爆炸式增长。3对此，86%的组织表示，已在基础设施决策中纳入碳足迹考量，78%已将可持续深度融入其AI战略。 业界专家正全力攻坚破局：通过“小而精”的AI模型，能实现在削减90%能耗的同时，保持相当性能。4具备功耗上限控制功能的硬件，可在系统层面降低约15%的整体能耗。5优化模型训练流程，可带来多达80%的能耗节省。6 节能带来双赢：既减碳降耗，又降本增效，推动AI经济模式更具可持续性。AI越“饥渴”，效率越关键。今日精通能源优化之道的组织，必将掌握未来AI的主导权。 案例研究 昆士兰大学借助高性能数据存储，加速AI驱动的研究进程7 昆士兰大学科研实力雄厚，研究范围覆盖生物医学、农业与食品、纳米技术、工程、环境科学、社会科学与数字人文等多个领域。其研究高度协同且注重实效，聚焦健康、可持续发展、科技与社会等全球挑战，依托多所顶级科研机构持续创新。为满足AI研究需求，昆士兰大学使用前沿的异构超算系统，而此类高性能计算(HPC)系统必须配备极速、可扩展且灵活的数据存储能力，从而实现“随时访问、无处不在”。 该校研究计算中心(RCC)致力于打造一体化高性能存储架构，为全校科研提供高效的数据采集与分析支持。该系统以"数据不动计算动"为核心理念，在应对数据量、速度和多样性指数级增长的同时，确保数据的逻辑单一性，并使研究人员随时随地可用。 RCC携手IBM业务合作伙伴OneTeam，共同打造高性能数据结构平台MeDiCI（大都市数据缓存架构），通过IBM Storage Scale实现集中化管理与主动文件调度。MeDiCI平台整合多类型平台与数据资源，打破存储孤岛，构建统一智能的数据架构。此方案实现了元数据的自动抓取与汇聚，让研究人员在跨校合作中，能无缝调用分布在不同计算集群的科研数据。 该存储系统支持高达40 GB/s的吞吐量，并拥有EB级扩展潜力。其混合云模型实现了元数据毫秒级响应，结合智能纠删码技术，全面保障存储系统的可靠性、可用性与性能。 统一的数据结构，让科研团队实现前所未有的运算速度，大幅缩短从数据到发现的周期。以阿尔茨海默症研究为例，团队借助该平台，将项目运行时长缩短了约74%。新存储阵列仅用两小时便实现了投资回报，其性能改进为全校的医学影像研究人员每周节省了数百小时的处理时间。 筑就可信AI基石 面对飞速发展的AI技术，治理与安全框架常常滞后。许多组织抢占AI先机，却在事后才补建治理与安全体系。延迟治理不仅放大了合规、隐私与模型安全风险，更可能引发伦理失范，最终动摇品牌信任、侵蚀客户忠诚。 83%的高管达成战略共识，AI治理已成刚需，其中道德与责任标准、隐私与数据安全、以及透明度和可解释性被共同认定为核心支柱（见图2）。但仅8%真正将AI治理机制嵌入体系。此外，数据隐私漏洞、安全机制缺失与合规性挑战，正共同构成AI基础设施价值实现的三大梗阻。当战略认知超前而就绪度滞后，其间裂痕已转化为真金白银的代价。 要跨越这道裂痕，必须建立全新的破局范式。我们的研究表明，领先组织始终将治理内嵌于AI基础设施之中，这一理念我们称之为“可信设计”。该理念以体系化视角审视AI安全，在应用层、数据层、模型层与使用层构筑起安全控制与治理机制的双重防线，形成对传统风险与未知威胁的立体防御。8面对全球监管环境的剧变，推行这一战略已从"最佳实践"升级为"生存必需"。 当组织在其运营中规模化部署AI智能体时，治理复杂度急剧上升：重复任务、模型割裂、敏感数据外泄等风险接踵而至。组织必须建立集中化的智能体管理平台，实现对合规、可信智能体的统一治理，并实时掌握交互与使用情况。 可信设计推动安全范式迁移：从被动信任转为持