Atlas 850E 超节点技术白皮书总结
产品概述
Atlas 850E 超节点是一款面向互联网、国计民生、运营商、金融等行业的大模型训练、推理等重要场景的高性能、高可靠、易部署的AI智能计算系统。产品主要由超节点服务器和灵衢互联设备两部分构成,集成高性能Ascend 950DT处理器和鲲鹏950 CPU处理器,通过华为自研的UB网络和灵衢互联设备实现互联组网。
组网拓扑
产品支持多种配置组网,如32超节点、64超节点、96超节点、192超节点、384超节点、768超节点等。典型组网方案包括96超节点(12台超节点服务器+4台LingQu 550 Box A)和768超节点(96台超节点服务器+384台LingQu 550 Box B+32台LingQu 550 Box A)。
产品特点
服务器
- 结构设计:14U机框,支持标准19英寸机柜安装,采用风冷平插架构,集成CPU抽屉、NPU抽屉、机框等关键部件,集成密度高,易维护。
- 核心配置:支持2鲲鹏950处理器+8Ascend 950DT NPU模组。
- 供电设计:最大输入功耗15.6kW,支持220V AC或336V HVDC/240V HVDC双输入供电,内部采用PSU电源模块向NPU模组提供54V DC,集中供电负载下电源转换效率最高可达96%。
- 散热设计:采用风冷方式实现智能调节高效散热,整机热性能优良,支持风扇N+1冗余,整机内部集成30个风扇模组,支持热插拔更换。
- 运维管理设计:支持CPU和内存智能故障诊断和隔离,硬件上支持管理网口汇聚,软件上支持CCAE智能管理平台纳管运维,同时支持通过Redfish接口被第三方网管集成。
灵衢互联设备
灵衢互联设备需根据解决方案组网灵活配置,不同组网使用的灵衢互联设备不同,请根据实际组网使用的灵衢互联设备,查阅对应设备的用户指南了解设备特点。
服务器硬件描述
前面板
- 外观:包含标签卡、NPU抽屉、Riser模组、CPU抽屉、硬盘、标签卡等。
- 指示灯和按钮:包括参数面接口的SPEED/LINK/ACT指示灯、故障诊断数码管、电源按钮/指示灯、健康状态指示灯、UID按钮/指示灯、网口数据传输状态指示灯、网口连接状态指示灯、硬盘Active/Fault/Locate指示灯等。
- 接口:包括参数面接口、UB接口、VGA接口、USB 2.0接口、FLEX IO接口(选配)、主板以太网接口、灵衢总线管理网口、BMC管理网口、灵衢总线调试串口、BMC调试串口、USB 3.0接口。
后面板
- 外观:包含电源模块、接地线接口、风扇墙。
- 指示灯:包括电源指示灯、风扇模块状态指示灯。
- 接口:包括电源输入口、接地线接口。
机框
- 部件:主要集成了PSU电源模块、风扇墙(集成风扇模组)、风扇背板、电源转接板、电源管理板、BUSBAR、Cable背板、PSU背板、横向铜排等。
- PSU电源模块:共配置6块,支持任意5+1冗余,支持热插拔,支持主备双路AC/HVDC混合供电,支持输入过欠压保护、输入过流保护、输出过压保护、输出过流/短路保护、过温保护。
- 风扇墙:由30个风扇模组组成,支持热插拔更换,整机支持任意N+1冗余。
- 风扇背板:主要用于风扇模组的管理控制,为风扇模组提供54V DC供电,整机支持风扇N+1冗余。
- 走线齿:用于辅助NPU抽屉、CPU抽屉的线缆走线。
NPU抽屉
- 概述:采用4.5U抽屉设计,整抽屉支持断电插拔,集成4个NPU模组、2个UB EXP模组或UBoE 直通模组、1块OSFP模组、1个CableTray组件及其他部件。
- NPU模组:是以高性能通用NPU计算芯片为核心的高密高功耗基础AI硬件单元,采用54V DC供电,主要集成1颗NPU芯片和电源、时钟、Flash芯片、低速连接器、高速连接器等主要部件。
- OSFP模组:为NPU抽屉提供电源管理、低速信号汇聚、UB、UBoE 直通模组或UB EXP模组等功能接口。
- UBoE直通模组:提供2个400Gbps光纤接口用来实现服务器参数面数据传输,并在板内集成QSFP光模块相关供电保护、Speed灯、Link/Act灯指示、进风口温度监测上报等功能。
- UB EXP模组:提供2个400Gbps光纤接口用来实现服务器参数面数据传输,并在板内集成QSFP光模块相关供电保护、Speed灯、Link/Act灯指示等功能,支持热插拔。
- CableTray:是一种内部线缆结构集成模组,其内部集成了Phoenix连接器、Luna连接器、UBC连接器及其线缆,通过机械结构件的形式将设备内部线缆进行集中布线管理。
CPU抽屉
- 概述:采用3U抽屉设计,整抽屉支持断电状态下的插拔,抽屉前面板集成10块硬盘、3个Riser模组及其他线缆接口,抽屉尾部集成1个CableTray和1个鸭嘴连接器。
- 处理器:CPU抽屉内部集成1块CPU基础板,CPU处理器集成在基础板上。
- 内存:CPU基础板最大提供24个内存插槽,每个处理器均提供12条内存通道,每条通道都支持1个DIMM,支持RDIMM,配置24根内存时,最大传输速率为6400MT/s,单根内存条容量最大支持96GB。
- CableTray:是一种内部线缆结构集成模组,其内部集成了Phoenix连接器、UBC连接器及其线缆,通过机械结构件的形式将设备内部线缆进行集中布线管理。
- Riser模组与PCIe插槽:CPU抽屉共包含3个Riser模组,根据支持安装的PCIe标卡的尺寸,分为全高3/4长Riser模组、半高半长Riser模组和全高半长Riser模组。
- 存储:硬盘配置为82.5寸NVMe+22.5寸SATA,支持热插拔。
- 单板:包括CPU基础板、BMC扩展板、IO转接板、硬盘背板、CPU电源板。
产品规格
服务器
- 技术规格:14U风冷服务器,支持8个NPU模组,每个NPU模组支持15个UB端口+1个参数面端口,用于AI处理器之间互连,单机NPU互联理论总带宽 8 × 1.68 TB/s (双向),AI算力单颗Ascend 950DT处理器支持多种算力规格,整机支持多种算力规格,片上内存单模组最大支持84GB/96GB,CPU处理器支持2个鲲鹏950处理器,内存提供24个DDR内存插槽,支持RDIMM,存储硬盘支持82.5寸NVMe+22.5寸SATA,RAID控制标卡支持多种型号,接口包括前面板和后面板的各种接口,无系统管理iBMC支持IPMI、SOL、KVM over IP以及虚拟媒体,提供1个10/100/1000Mbps的管理网口汇聚到机柜管理板。
- 环境规格:工作温度5°C~35°C,存储温度(3个月以内)-30°C~+60°C,存储温度(6个月以内)-15°C~+45°C,最大温度变化率20°C(36°F)/小时、5°C(9°F)/15分钟,单风扇失效时支持的最高工作温度为正常工作温度规格以下5°C,整机散热需求最大风量3300CFM,无相对湿度(RH,无冷凝)工作湿度8%~90%,存储湿度(72小时以内)8%~95%,存储湿度(6个月以内)20%~75%,最大湿度变化率20%/小时,工作海拔高度:≤3050m。
- 物理规格:尺寸618.8mm(H)×447mm(W)×920mm(D),满配重量整机净重251kg,包装材料+辅料重量:99kg。
- PSU电源规格:输入电压范围交流:90V AC~264VAC直流:180V DC~400VDC,输入最大电流16A,额定输入电压,额定负载,最大输出功率3000W,输出电压54V DC,散热方式风冷,热插拔支持。
灵衢互联设备
灵衢互联设备的规格相关描述请参见《灵衢互联设备 LingQu 550 Box A 用户指南》和《灵衢互联设备 LingQu 550 Box B 用户指南》。
系统管理
本产品集成了iBMC智能管理系统,iBMC智能管理系统是设备的远程管理系统,兼容业界管理标准IPMI2.0规范、Redfish规范,具有高可靠的硬件监测和管理功能,主要特性包括支持键盘、鼠标、视频和文本控制台的重定向,支持远程虚拟媒体,支持智能平台管理接口(IPMI),支持简单网络管理协议(SNMP),支持通过Web浏览器登录,支持多种管理接口,故障检测提供丰富的故障检测功能,告警管理支持告警管理及SNMP Trap、SMTP、syslog服务多种格式告警上报,集成虚拟KVM,最大支持1920*1200分辨率,集成虚拟媒体,虚拟光驱最大支持8MB/s,基于Web的用户界面支持可视化的图像界面,DNS/目录服务支持域管理和目录服务,软件双镜像备份当前运行的软件完全崩溃时,可以从备份镜像启动,设备资产管理智能的资产管理,IPv4/IPv6支持IPv4/IPv6双栈功能。