计算密集型应用以ServiceMesh为支点解决分布式问题的探索与实践_王志龙

总结

一、Mesh溯源及背景介绍

服务网格（Service Mesh）起源于Buoyant公司内部分享，由William Morgan提出，旨在为微服务架构提供可靠传输和轻量级网络代理。其典型形式为Sidecar部署，即在每个服务实例旁部署代理，通过代理间的连接和交互形成Mesh。服务网格是协调微服务能力和应对分布式压力的关键支点。

二、落地挑战和方案选型

京东搜推广等计算密集型应用在落地服务网格时面临挑战，主要采用MOSN多协议框架快速落地，中长期计划使用MoE（Mosn On Envoy）实现“双语”扩展。技术架构采用多集群多主控制面，数据面支持多形态和多控制面架构。

三、业务赋能探索&实践

1. 跨语言、多协议去中心化网关：HTTP网关下沉到数据面支持私有协议RPC调用，TP99降低50%，可用率提升一个数量级。
2. 异构环境负载均衡：加权最小连接数策略使TP99降5ms，但存在算力差异问题；复合多策略（加权+本地耗时+远端负载）使TP99降8ms。
3. 混合跳步CPU/QPS自适应限流：动态限流提升可用率，降低TP99。
4. 测试环境治理：单模块Mock测试屏蔽个性化影响，压测效率提升20%+。
5. 流量分组：通过路由动态别名和实例分组，支持异常流量测试、跨集群调度和动态扩分片。
6. 基于eBPF的旁路无侵入观测：零侵入、跨语言、高扩展，有效解决跨语言异构系统的紧急排查和定位。

四、技术规划与未来展望

提出LiMoE（Layotto in MOSN on Envoy）概念，强调“能力X性能”；基于Istio Ecosystem的Admiral实现智能流量调控；Mesh Node化架构赋能新一代Serverless平台。