字节QUIC千万QPS应用实践_龙志

⽕⼭引擎边缘云-⻰志 CONTENTS ⽬录 QUIC协议简介01⽕⼭引擎QUIC-架构设计02⽕⼭引擎QUIC-性能优化03⽕⼭引擎QUIC-业务收益04⽕⼭引擎QUIC-未来展望05 ⽕⼭引擎QUIC -架构设计 端边云⼀体 •端边云统⼀QUIC协议栈，提升开发/运维效率 ⾼可靠 •⽆损升级：基于ebpf调度，实现nginx⽆损升级•协议信息上报：实时监控异常，提供协议栈可观测能⼒ ⾼性能 •传输优化：分场景定制协议优化算法•CPU优化：丰富的优化策略，解决QUIC痛点•⾼级特性：MPQUIC/FEC等⾼级特性，提供极致体验 ⽕⼭引擎QUIC -全链路协议加速 ⽹络性能-全链路分析系统 通过TraceId串联端边云⽇志系统，可记录每个请求的QoS信息/协议传输等细节信息。 QoS信息 记录业务质量信息，如卡顿/未起播等指标 下载信息 请求统计信息，如下载数据⼤⼩/耗时等 请求⽇志 QUIC协议统计信息，如RTT/丢包率等 netlog 详细的QUIC协议传输细节，可视化展示cwnd/rtt等指标的实时变化 ⽹络性能- QUIC FEC FEC：前向纠错，通过增加冗余数据对丢失的数据包进⾏恢复的信道编码算法，相⽐⾃动请求重传ARQ，可以在更短时间内恢复丢包，⽆需等待重传。 编码算法 •XOR：算法简单，性能消耗低，恢复能⼒弱•RS：性能消耗多，恢复能⼒强 •TLP-FEC：在请求数据的尾部发送冗余数据，利⽤空闲带宽策略 发送冗余数据，适合动态请求API场景。•A-FEC：⾃适应FEC，通过实时统计⼀段时间内的丢包率决定冗余度，达到带宽成本和恢复能⼒的平衡。 性能收益 •适⽤于⻓RTT/⾼丢包⽹络环境；•在特定场景收益显著，例如TLP-FEC在API弱⽹场景耗时正向显著； ⽹络性能-基于QoE反馈优化 利⽤QUIC双边加速特点，与业务深度结合，在客户端将业务QoE数据(请求优先级/码率/⽹络类型)反馈给服务端进⾏针对性优化。 码率 根据客户端反馈的码率信息，控制服务端速率，降低重传率的基础上优化卡顿率。 ⽹络类型 在WiFi场景下，由于信道⼲扰导致RTT抖动较⼤，可对WiFi⽤户进⾏针对性优化。 ⽹络性能- MPQUIC 多路径QUIC：利⽤移动设备WiFi和Cell双通道同时传输数据，提升速度，增加弱⽹对抗能⼒，进⼀步发挥QUIC双端⽤户态协议优势，提升⽤户体验。 CPU性能– QUIC vs HTTPS 典型场景 10KB：动态请求API场景，1.3x HTTPS512KB：点播/投稿流媒体场景，3.5x HTTPS 对⽐分析 10KB：body⼩，nginx本身处理逻辑占⼤头512KB：QUIC数据收发消耗远⼤于nginx消耗 CPU性能-流媒体场景 CPU性能-优化⽅法 0 1 流媒体 动态请求 通⽤⽅法 场景 通⽤的性能优化⽅法，各场景均适⽤，主要在编译&链接等阶段进⾏优化，包括PGO Bolt LTO等优化⼿段 数据传输场景CPU主要消耗在UDP收发包，通过GSOrecvmmsg/AF_XDP/ZeroCopy降低收发包消耗 •KeyLess：在握⼿阶段将加解密操作卸载到远程KeyServer。•QPACK优化：针对⼀直变化的header，不加⼊动态表。 边缘云⻜书交流群 边缘云微信公众号 Thanks