一、人工智能算力基础设施正加速演进,呈现超大规模集群化、绿色低碳化和高速互联化特征。技术创新方面,超大规模集群化实现突破,绿色低碳化发展成效显著,高速互联化加速探索。布局优化方面,政策引导推动智算中心高质量发展,智算中心建设加快布局,总体规模进一步增长。产业升级方面,智算全产业链协同发展,智能算力产业发展提质增速,三大运营商和AI大厂加速布局智算领域。
二、人工智能算力基础设施赋能的重要走势包括需求场景逐步明晰、关键能力逐步聚焦和落地生态逐步聚和。需求场景方面,大模型预训练、微调、推理场景对计算需求不一,分别需要E级、百P级和G级算力中心支撑。关键能力方面,训练场景和微调/推理场景对底层支撑能力、创新服务能力、运营保障能力要求有较大区别,智算中心亟需针对性夯实关键能力。落地生态方面,智算中心赋能需要分场景聚合AI能力主体,推进智算中心赋能所需核心要素主体的协同。
三、人工智能算力基础设施需求场景包括大模型预训练、微调、推理场景。大模型预训练场景需要万卡集群推进支撑,小模型训练、微调或推理场景依托百P级中小型智算中心即可支撑。大模型推理场景中,云侧推理需求占据主导,不同推理应用场景对于推理模型及智算中心需求各不相同。
四、人工智能算力基础设施关键能力包括基础支撑能力、创新服务能力和运营保障能力。基础支撑能力方面,训练场景主要关注集群算力有效性、集群稳定性、单体集群算力规模和主流计算框架的兼容性等,推理场景主要关注token吞吐率、时延以及智算卡的异构多样性等。创新服务能力方面,训练场景主要关注云服务高效性、模型迁移高效性以及数据治理多样性,推理场景主要关注智算资源池化调度能力和模型迁移部署高效性。运营保障能力方面,训练和推理场景都重点关注算力被调度的灵活性、算力租赁性价比、安全合规性等,此外训练场景还关注可协调合作主体的丰富性。
五、人工智能算力基础设施落地生态包括智算与数据要素协同、智算与模型算法协同、智算与跨域智算协同、智算与行业场景协同和智算与区域产业协同。智算中心推进需求场景的支撑,对场景所需关键能力供给主体提出强合作需求,只有深度推进智算中心与各类要素供给主体协同合作,才能助力智算中心赋能真正落地。
六、人工智能算力基础设施发展展望包括需求场景更加多元、复杂,关键能力更加集约、软性,落地生态更加聚合、协同。未来,人工智能算力基础设施将更加多元、复杂且深度融合,需要从集群到超大规模集群,从烟囱式到池化共享,从封闭到开放开源,从资源型到服务型。同时,需要形成多元化、网络化共同体,进行共创,共同开发方案,共同验证价值,并聚焦点不再是智能算力本身,而是聚合数据要素主体、算法模型主体、跨域智算主体,以及行业场景主体、区域产业主体,推动整个区域或行业的智能化升级和产业发展。