中国DPU行业发展白皮书赛迪顾问股份有限公司 2021 前言伴随着数据中心的高速发展，通信能力和计算能力成为数据中心基础设施中的两个重要的发展方向。随着网络传输带宽的增加，数据中心的计算资源被愈加复杂的基础设施操作所占据，使得业务处理遭遇瓶颈。DPU的提出背景就是应对数据中心的数据量和复杂性的指数级增长带来的性能瓶颈。DPU对数据中心来说，是通过更明细的分工来实现效率的提升、实现总体系统的成本最优化。本白皮书内容共分4章内容，包括智能网卡的简介及趋势分析、DPU的简介及分析、DPU产业分析及NVIDIA的DPU前景展望等。第一章为智能网卡的简介及趋势分析。该章节介绍了智能网卡的发展背景，并与通用网卡的框架做对比，介绍了网卡及智能网卡的技术差别，对比了各种智能网卡不同实现的技术要点，分析了智能网卡发展的优劣势，引出了DPU在数据中心的发展。第二章为DPU的简介及分析，介绍了DPU的发展背景和DPU的定义，对DPU介绍并分析了其优势和未来技术发展路径。并从NVIDIA BlueField-3 DPU产品技术特点、产业定位分析、技术优势分析、和技术对比等方面综合介绍了NVIDIA BlueField-3 DPU产品技术情况。第三章为DPU的产业宏观分析，分别列举出目前市场上主流产品的产品技术特点，分析了DPU行业的市场竞争格局，概述了DPU应用市场的发展现状，研究了DPU行业的发展趋势，展望了数据中心的未来前景。第四章为NVIDIA DPU的前景分析，从结构通用化、功能多样化、应用广泛化，场景丰富化四个方面对NVIDIA DPU的前景进行了相关分析与展望。 一、智能网卡简介和趋势分析 1（一）智能网卡发展背景及技术简介 11.智能网卡发展背景 12.网卡及智能网卡技术简介 1（二）智能网卡的优劣势分析 5二、DPU简介及分析 7（一）DPU发展背景与定义 71.DPU发展背景 72.DPU定义及综述 7（二）DPU优势及发展趋势分析 81.DPU优势分析 82.DPU技术发展趋势分析 9（三）NVIDIA BlueField-3 DPU产品定位及优势分析 101.BlueField-3 DPU产品简介 102.BlueField-3 DPU技术特点 123.BlueField-3 DPU产业地位分析 134.BlueField-3 DPU优势分析 13（四）NVIDIA BlueField-3 DPU技术分析和技术对比 151.BlueField-3 DPU技术分析 152.智能网卡及DPU分析 19三、DPU产业分析 21（一）DPU产业宏观分析 211.DPU产业分析 212.DPU竞争格局 21（二）DPU产业现状与趋势 251.DPU产业发展现状 252.DPU产业发展趋势 26四、DPU前景分析 28目录 图1 网卡架构示意图 1图2 智能网卡架构示意图 2图3 智能网卡不同技术实现示意图 2图4 智能网卡与DPU架构示意图 6图5 DPU产品示意图 7图6 DPU实现业务与基础设施的操作分离 8图7 OpenShift部署DPU前后性能对比 9图8 DPU和网络计算成为以数据为中心计算架构的核心 10图9 NVIDIA DPU产品发展路线图 11图10 BlueField-3 DPU产品示意图 11图11 NVIDIA DOCA软件开发包 12图12 BlueField-3 DPU实现无阻塞通信后的性能表现实例 14图13 NVIDIA DOCA软件栈 15图14 BlueField-3 DPU总体架构 16图15 RDMA技术通过远程直接内存访问实现低延迟 17图16 GPU-Direct RDMA技术示意图 17图17 英特尔IPU概念图 24图18 OCTEON 10系列DPU架构 25图19 全球DPU市场规模 26图20 中国DPU市场规模 27表1 智能网卡不同技术实现参数对比 3表2 网卡与智能网卡性能参数对比 3表3 BlueField DPU系列的优势 10表4 BlueField-3 DPU解决网络高速传输数据安全瓶颈 13表5 BlueField-2和BlueField-3 DPU技术指标对比 14表6 智能网卡和DPU对比分析 20表7 DPU竞争格局 22图目录表目录 2021中国DPU行业发展白皮书1（一）智能网卡发展背景及技术简介 1、智能网卡发展背景网卡（Network Interface Card，简称NIC）是将电脑接入局域网的设备，网卡插在计算机主板的总线插槽中，负责将用户要传递的数据转换为网络设备能够识别的格式，通过网络介质传输。智能网卡（Smart NIC），也称智能网络适配器，除了能完成标准网卡所具有的网络传输功能之外，还提供内置的可编程、可配置的硬件加速引擎，提升应用的性能和大幅降低CPU在通信中的消耗，为应用提供更多的CPU资源。例如，在高度虚拟化的环境中，主机CPU需要运行OVS（Open Virtual Switch）相关任务，同时CPU还要处理存储、数据包的在线加解密或离线加解密、数据包深度检查、防火墙、复杂路由等操作，这些操作不仅消耗大量的CPU资源，同时由于不同业务之间的CPU资源争夺，导致业务的性能不能发挥到最佳。网卡作为连接各种业务的枢纽，在网卡上对于上述业务进行加速，成为了最理想的场所。智能网卡的出现，为解决这个问题提供了新的思路，我们可以通过智能网卡来将OVS操作从CPU卸载下来，并完成存储加速、数据加密、深度包检测和复杂路由等各种功能，将花费在处理这些工作负载上的大量的CPU周期返回给主机CPU，同时解决了不同业务之间的冲突问题，大幅提升了各项业务的性能，也确保了服务器CPU能为应用提供最大的处理能力或者提供更多的虚拟机（VM）服务，创造更大的价值。 2、网卡及智能网卡技术简介（1）网卡架构技术特点网卡的架构如图所示，一个典型的NIC由一个处理网络流量的处理器、一对处理数据移动的DMA引擎和一个用于缓冲区和Doorbell的本地存储器（通常是RAM）组成。一、智能网卡简介和趋势分析网卡架构示意图图1数据来源：ISLPED'03, 赛迪顾问整理 2021,11 2（2）智能网卡架构技术特点智能网卡是具有独立的计算单元，能完成特定的基础设施功能操作的网卡，如智能网卡可完成特定的重组加速、安全加速等操作，相对于普通网卡可以带来较大的性能提升。智能网卡上的可编程ASIC或FPGA单元有可以运行自定义软件的计算层，计算层可以为网络流量提供服务，并可以执行特定网络及数据中心基础设施功能，还为外部网络和服务器OS之间提供了额外的安全层（也就是将安全保障由ToR交换机转移向了该设备）。智能网卡简介和趋势分析（3）各种智能网卡实现的技术要点对比目前的智能网卡有ASIC、FPGA和片上系统（SoC）三种实现。智能网卡不同技术实现示意图智能网卡架构示意图图2图3数据来源：公开资料, 赛迪顾问整理 2021,11数据来源：Vmware官网，赛迪顾问整理 2021,11 2021中国DPU行业发展白皮书3（4）网卡与智能网卡的性能对比（如表2所示）不同实现方式的智能网卡在成本、编程的简易性和灵活性方面存在各种权衡。ASIC非常具有成本效益，可以提供最佳的性价比，但它的灵活性受ASIC中定义的功能的限制。基于FPGA智能网卡则可以在可用逻辑门约束范围内，花费足够的时间和成本来相对有效地支持几乎任何功能。但FPGA编程简易性较差且价格昂贵。对于更复杂的、更广泛的用例，基于SoC（如NVIDIA的BlueField DPU）提供了最佳的智能网卡实施选项：良好的性价比、易于编程且高度灵活。智能网卡不同技术实现参数对比表1网卡与智能网卡性能参数对比表2数据来源：赛迪顾问 2021,11ASICFPGASoC性价比高低中易编程度中低高灵活性低中高功耗低高中能力Capability加速工作负载Workloads Accelerated网卡NIC智能网卡Smart NIC入门级虚拟化与数据移动Entry Level Virtualization and Data MovementTCP/IP 加速TCP/IP Acceleration企业工作负载Enterprise workloads√√虚拟化NIC (SR-IOV)NIC Virtualization (SR-IOV)企业工作负载Enterprise workloads√√网络虚拟化Network Virtualization (VXLAN)多租户工作负载Multi-tenant workloads √√数据传输加速和可编程数据面Data Transport Acceleration & Programmable Data PlaneRoCE 加速RoCE Acceleration虚拟机、存储、大数据、人工智能/机器学习VM, Storage, Big Data, Al/ML √ 4数据平面开发套件DPDK虚拟化网络功能Virtualized Network Functions √√Spark加速Spark Acceleration大数据Big Data √NVMe-oF存储NVMe-over-Fabrics Storage（NVMe-oF）存储Storage √√OVS硬件加速OVS Hardware Acceleration高效、可扩展的虚拟化应用程序Efficient, Scalable Virtualized Apps √QoS 和 ACL 加速QoS and ACL Acceleration网络服务器/内容分发网络Web Servers/ Content Distribution Networks √流量监控/报告Flow monitoring/reporting可视性、网络数据包代理、IBNVisibility, Network Packet Broker, IBN √流匹配/动作引擎Flow match/action engine软件定义网络Software Defined Networking √完全可编程数据面Fully Programmable Data Plane网络功能虚拟化Network Function Virtualization √ASAP2 虚拟交换/路由ASAP2 Virtual Switching/RoutingNAT、负载均衡、无状态防火墙NAT, Load Balancing, stateless fire-wall √智能网络和虚拟化Smart Networking & Virtualization虚拟交换政策引擎Virtual Switch Policy EngineOVS控制面OVS Control Plane √（*）分析引擎Analytics engineDPI网络监控与诊断DPI, Network Monitoring and Diag-nostics √（**）容器加速Container Acceleration多样（AI/ML，大数据，分析）Various (AI/ML, Big Data, Analytics) √（*）智能云虚拟化Smart Cloud Virtualization服务器分解与资源共享Server Disaggregation & Resource Sharing √安全、压缩、网络功能虚拟化、存储Security, Compression, Network Function Virtualization, Storage公钥加密、RNGPublic Key Crypto, RNG认证、密钥交换Authentication, Key Exchange √故障域隔离/HAFault Domain Isolation/HA裸金属云Bare Metal Cloud √智能网卡简介和趋势分析 2021中国DPU行业发展白皮