生成式AI时代的数据中心
内容执行摘要关键生成式人工智能趋势人工智能数据中心的扩散国家特定人工智能数据中心趋势电信运营商建议 信息分类：通用执行摘要•银行、金融机构、电信公司、工业集团和其他大型企业除了支持通用计算工作负载外，还使用针对训练和推理优化的大型人工智能数据中心。关键关注领域包括多模态通用人工智能、推理模型，以及为边缘场景设计的小型基础模型。与此同时，成本效益型模型的涌现——例如DeepSeek-V3，一个仅用不到600万美元训练的6710亿参数模型——表明高性能模型可以在没有高端GPU的情况下开发。未来，代理式人工智能预计将成为企业通用人工智能应用的主要驱动力。人工智能代理将通用人工智能模型与专家系统和机器学习相结合，以最小的监督自动化复杂任务。•对于超大规模人工智能训练和推理工作负载，全球云服务提供商和互联网公司依赖超大规模人工智能数据中心，这些超级设施配备高达数十万的人工智能训练和推理芯片组，专为大规模预训练任务而设计。•对于关键业务功能，企业已部署小型人工智能数据中心，这些数据中心专为计算和能源资源有限或数据隐私要求严格的环境而设计。2022年末生成式人工智能（GenAI）的出现从根本上改变了科技行业。预计到2029年，人工智能软件市场的规模将达到2180亿美元，这主要得益于生成式人工智能助手、生产力工具以及嵌入生成式人工智能的软件即服务（SaaS）解决方案的增强。新基础模型的不断推出扩展了生成式人工智能的功能，使其不仅限于文本，还包括复杂的文本到图像生成、高级语音识别和合成、视频生成以及全面的代码生成。人工智能需求增长推动人工智能数据中心爆发式增长。预计到2029年，全球人工智能服务器出货量将超过400万台，2024-2029年的累计平均增长率约为14%。人工智能服务器的资本支出从2022年的229亿美元翻倍至2023年的560亿美元，预计到2024年将达到1380亿美元。全球云服务提供商正引领此次投资激增。作为数据中心行业的关键参与者，GTI和Omdia认为电信运营商应抓住机遇成为人工智能数据中心市场的重要参与者。具体而言，电信运营商必须利用其对本地市场和计算需求的了解，并部署特定技术来把握这一增长。中国移动和Softbank等GTI关键成员是人工智能数据中心领域的活跃参与者，他们拥有独特的生成式人工智能基础模型和服务。为了适应显著的生成式人工智能训练和推理工作负载，行业已开发出各种数据中心解决方案： •信息分类：通用拥抱开放与协作，通过追求标准化解决方案。•通过与其他人工智能硬件和软件供应商建立战略合作关系来形成差异化，同时开发增值的托管人工智能服务、增强的安全措施和专家咨询服务。•利用现有的光纤网络和连接基础设施，为延迟敏感型应用提供边缘计算能力以及全面的服务水平协议。•从价值创造出发，通过精心部署能够切实为客户带来利益的生成式人工智能基础设施，而不是盲目跟风。电信运营商一直以来都以其拥抱和推广开放标准和开源技术而闻名。在生成式人工智能时代，这一价值将有助于提升整体生成式人工智能系统性能，平衡竞争格局，促进创新，并加速生态系统内生成式人工智能的采用。然而，全球人工智能数据中心的采用仍然不均衡。大多数活动集中在美国和中国，东南亚和中东地区正成为下一个前沿阵地。美国在2024年的数据中心服务器市场领先，总额达1400亿美元，主要由超大规模企业和新兴新云供应商主导。中国已建立了强大的国内市场，涵盖计算、存储和网络数据中心技术，预计2024年服务器市场规模超过580亿美元。东南亚的数据中心服务器市场价值约为58亿美元，新加坡是市场领导者。与此同时，中东市场的价值约为31亿美元，由阿联酋和沙特阿拉伯凭借其战略人工智能计划引领。随着人工智能数据中心遍布全球各国和地区，奥MDA和G TI认为电信运营商有望发挥关键作用。任何进入人工智能数据中心领域的电信运营商都应采取以四大核心原则为重点的战略方法：一系列技术进步支持着这些数据中心。关键技术驱动因素包括人工智能芯片组的指数级增长、模型开发与部署的加速网络、以及通过创新电源和热管理解决方案实现的服务保障。为了应对日益增长的功率密度和效率需求，正在实施原生液体冷却、二级直接芯片冷却(DTC)和高电压直流(HVDC)解决方案。 来源：Omdia持续推出新的基础模型图1：全球预测和生成式人工智能软件收入，2022-29信息分类：通用关键生成式人工智能趋势2022年底生成式AI的兴起给科技行业带来了根本性变革。与早期AI时代——当时AI在象棋比赛和计算机游戏中战胜人类玩家——截然不同，在生成式AI时代，AI以高保真度生成类人回应。像ChatGPT和DeepSeek这样的对话式AI应用，是人类历史上最受欢迎和广泛使用的消费级应用之一。生成式AI能力已融入社交媒体、电子商务和生产力工具中的许多现有应用。它不仅限于消费场景：全球各组织已利用生成式AI进行内容创作、客户服务、知识管理以及复杂的代码生成与调试过程。在特定的一些行业领域，生成式AI已取得重大突破，自动化任务并增强人类员工的能力。使用公开可用的数据预训练，GenAI模型能够理解人类指令并在文本和语音中生成回复。GenAI已超越文本，涵盖各种媒体形式，包括复杂的文本到图像生成、高级语音识别与合成、视频生成与编辑能力，以及全面的代码生成与分析。随着参数数量增加，这些模型能够模拟人类行为，展示上下文理解能力，执行 •代理式AI推动企业GenAI使用多模态生成式人工智能信息分类：通用• 推理模型• 小型基础模型商界见证了GenAI的广泛采用，它通过自动化日常任务和增强同时，供应商们继续开发具有增强现有功能型号。例如，Cohere X1 可以支持 23 种语言。Qwen2-72B 展示了强大的区域语言控制能力，包括葡萄牙语、日语和阿拉伯语。StepFun，一家中国 GenAI创业公司，推出了专注于增强图像和视频编辑与生成的地基模型。–这些模型参数数量较少，通常在0.5亿到7亿之间，专为边缘使用场景设计。关键示例包括阿里巴巴的Qwen2.5 0.5B、微软的Phi-4和谷歌的Gemma-3。以接近人类水平的执行任务，并展现类人的行为。为了提升模型在企业环境中的就绪度，GenAI模型开发者引入了新技术——包括高效注意力机制、精细微调方法、推理加速和检索增强生成——以降低训练成本，提高推理速度，并最小化幻觉。无论其能力如何，这些模型的训练和推理工作负载都需要大量资源。测试时扩展，这种方法促成了推理模型的诞生，预计将成为人工智能计算资源的下一个增长动力。这种方法使模型能够在测试或推理阶段进行思考和优化它们的输出。模型可以生成多个响应并探索不同的推理路径，这需要更多的计算资源。–这些模型能够使用一组专家模型理解和生成各种类型的数据。关键例子包括OpenAI的o3和o4-mini、Google的Gemini-2.5、Meta的LlaMa 4和DeepSeek的DeepSeek-V3-0324。随着GenAI的日益普及，模型开发者正发布具有更强功能的新模型。2025年推出的GenAI模型表明，其重点集中在以下领域：–这些模型可以通过整合多个信息来源对特定查询进行深入分析，并通过自我反思和审查进一步提高输出质量。主要示例包括来自DeepSeek的DeepSeek-R1、来自阿里巴巴的QwQ-32B、来自百度的X1以及来自腾讯的T1。 来源：Omdia图2：全球AI软件收入按最终用户垂直划分，2024年及2029年信息分类：通用Omdia预计人工智能软件市场将在2029年达到2.18万亿美元。增长主要将由GenAI助手、生产力工具以及广泛使用的SaaS解决方案中嵌入的GenAI功能的蓬勃供应和需求驱动。根据Omdia的人工智能成熟度调查，收入超过10亿美元的37%公司正在跨多个业务功能或单位扩展人工智能部署。具体来说，智能体理解人类设定的目标，将其分解为具体任务，并在无人干预的情况下执行这些任务。此外，通过 AutoGen、MCP 和 A2A 等智能体 AI 框架，AI 智能体可以与并利用企业数据集和应用程序。多个 AI 智能体可以通过强大的编排部署在多智能体框架中，以进一步增强 AI 智能体的功能。编排可以抽象复杂性，并确保智能体有效协作并符合已设定的整体目标。多模态理解。除了将GenAI模型集成到日常工作中，企业正在利用AI代理来提高员工的生产力。通过将GenAI模型与专家系统、机器学习和深度学习模型相结合，AI代理将能够增强AI助手目前支持的所有用例，这得益于代理式AI能够自动化甚至复杂的任务，同时在处理这些流程时只需很少或无需监督。 信息分类：通用通用人工智能也正在进入其他垂直领域。在教育领域，它能够实现个性化学习体验；在法律行业，它促进文档分析和合同审查；在制造业，它优化流程和质量控制。零售业以2024年116亿美元的收入位居榜首，并实现了18%的复合年均增长率。Omdia的AI企业合同追踪数据显示，零售商的AI合同在2023年下半年和2024年上半年激增，零售业与金融服务业竞争成为合同数量最多的行业。大型电子商务企业推动这一领域的发展，因为它们越来越多地进行个性化产品定位。零售业最常用的AI用例是产品推荐、虚拟助手和图像及视频内容分析。金融服务与医疗保健在2024年紧密相连，规模达到105亿美元，但由于是成熟的AI采用者，其CAGR将较慢，为15%，直至2029年。主要应用场景包括虚拟助手、欺诈检测、智能文档处理、算法交易策略分析、风险评估和合规。医疗保健是2024年收入为108亿美元的第二大垂直领域，年复合增长率为19%。主要应用场景包括医学图像分析、计算药物发现和虚拟及语音助手。该行业还在利用人工智能和其他AI技术进行临床试验、药物开发、生物信息学分析和医学诊断。 来源：Omdia图3：全球IT工作负载的AI份额，2017–30最重要的是，生成式人工智能改变了运行人工智能所需的服务器配置。首先，计算需求显著增长。同时，不断增长的模式要求更高的内存容量和网络能力，通常分布在单个服务器中的多个人工智能处理器之间，或分布在几台服务器之间。能够运行大型语言模型的 多GPU服务器的过高价格将消耗云服务提供商和企业年度资本支出(capex)的很大一部分。当资本成本仍然很高且宏观经济不确定性持续存在时，云服务和企业内部基础设施即服务(IaaS)服务将成为企业客户消费计算能力的最有效方式。图4显示 Omdia 的人工智能数据中心的扩散GenAI的爆炸式增长推动了数据中心的高市场需求，特别是针对GenAI训练和推理工作负载进行优化的数据中心。随着越来越多企业解决方案依赖于GenAI能力，现代人工智能数据中心已成为技术进步的支柱。 信息分类：通用 图 4：按应用类别划分的全球服务器出货量，2019–29来源：Omdia信息分类：通用对AI服务器出货量的预测，这是衡量AI数据中心增长的最佳指标。另一个好的指标是资本支出（capex）水平。自2022年以来，人工智能服务器的资本支出每年翻倍，从2022年的229亿美元增加到2023年的560亿美元，并在2024年达到1380亿美元。美国的超级云服务提供商一直是最大的支出者。相比之下，中国云服务提供商在资本支出方面落后；然而，由于云服务使用的增加，尤其是从2025年开始，它们的支出也在呈上升趋势。Omdia预计到2029年全球AI服务器出货量将超过400万台，由2023年因GenAI出现而启动的加速推动。预计2024年至2029年的复合年均增长率约为14%。 图 5：2022-24 年全球领先云服务提供商的服务器资本支出来源：Omdia现代人工智能数据中心分类信息分类：通用超大规模人工智能数据中心一个超大规模人工智能数据中心是一个拥有数万或数十万个人工智能训练和推理芯片组的超级数据中心。尽管超大规模数据中心在两项任务中都表现出色，但这种类型的数据中心通常设计用于需要极高运行条件和大规模预训练任务，维护复杂。训练是GenAI模型开发过程中成本最高的部分。更高效的训练可以缩短训练时间，提高市场竞争力，节约
