铸云之基，云原生架构变革实践之路主讲人：裴斐网易数帆云原生资深架构师 现有平台架构简介落地实践架构反思架构变革演进实践 现有平台架构简介 平台定位 —— 轻舟微服务平台 专注于解决企业分布式架构下应用服务治理、监控、运维等诸多痛点和难点，是网易数帆云原生平台的核心产品产品序列 —— 包含微服务框架 NSF、服务网格 NSM、API 网关、全链路应用监控、分布式事务等落地实践 —— 在网易集团核心业务严选、有道、传媒、音乐以及外部众多银行、保险、券商、能源、制造等企业大规模落地应用行业资质 —— 获得了中国信通院最高级别的微服务、服务网格平台能力资质认证 平台定位 —— API网关 是承载微服务对外API流量的基础设施，可安全、灵活、快速对外暴露API，具备高性能、可扩展等能力，提供路由代理、服务治理、审计、API管理等丰富功能。核心技术 —— 早期基于Java异步化技术实现，后来升级为以 Envoy 核心数据面 的云原生高性能网关。架构特点 ——•性能强：代理性能较传统API网关提升10倍以上•能力全：覆盖传统代理、微服务网关、Kubernetes Ingress/Gateway、L7负载均衡器•开放性：支持使用多种开发语言开发插件扩展API网关能力 平台定位 —— 微服务框架 NSF 是基于云原生技术的微服务管理平台，提供完整的服务治理能力，支持 Spring Cloud、Dubbo和Service Mesh等开源框架纳管，通过无侵入接入技术，助力企业快速转型微服务架构。核心技术 —— 基于无侵入Java Agent技术实现，不需要业务修改任何代码，即可快速落地微服务架构，获取微服务全家桶能力架构特点 ——•接入方式开放：业务不需要修改代码，加一行启动命令即可实现微服务全家桶能力增强（注册发现、限流、降级、灰度发布、监控、动态配置等等）•动态管控：通过服务控制中心动态管控微服务 用户微服务（消费方）Sidecar(Envoy)用户微服务（提供方）Sidecar(Envoy)外部服务前端控制台内部服务访问控制中心控制中心(NSF Server)配置管理服务应用诊断服务应用监控服务应用认证服务知识库服务配置管理服务应用诊断服务应用监控服务应用认证服务服务目录API 网关数据面公共基础服务控制面控制中心IstiodK8S API Server监听CRD配置对接 注册/配置中心OpenAPIAPI Plane注册中心EurekaZookeeperEurekaNacosConsulK8S Registry配置中心EurekaApolloZookeeper外部服务访问内部服务平台定位 —— 服务网格NSM 是基于 Istio 开源框架增强和扩展的企业级服务网格平台，通过无侵入方式，为多语言、多协议、不同部署形态的异构应用提供服务管理、服务治理、服务监控、访问鉴权等能力。核心技术 —— 基于云原生核心组件 Istio、Envoy 构建架构特点 ——•业务解耦：微服务基础能力下沉到业务无感知的基础设施层•接入方式开放：支持多种开发语言、服务协议和部署形态的存量及新业务接入•性能、稳定性：支撑金融级大规模集群接入 落地实践，架构反思 企业引入API网关后 —— •Nginx+Ingress+API网关 ... •请求链路更长了，延迟增加了，故障点更多了？•部署资源占用更多了？•不同代理组件能力有重合？新问题出现架构反思能不能将功能重合的代理组件 合而为一，降低链路延时损耗，减少代理组件部署运维成本，减少故障点与维护成本，同时方便统一管理？ 除了服务治理，无侵入Agent能不能干点其他事 ——•配置加解密、接口上报、安全等非业务逻辑下沉与解耦？•多种协议转换、互通？去ESB？•... （其他存量Java系统不修改代码定点增强）新问题出现架构反思无侵入 Agent 能否更通用，业务也可以自主扩展想要的逻辑？ 企业引入注册中心后 ——•注册中心如何平滑升级？•多种异构注册中心如何共存？•如何实现注册中心容灾与高可用？新问题出现架构反思仅引入注册中心组件可能并不够，大规模生产应用需要配套的注册中心升级、容灾、高可用等企业级能力支持。 都说服务网格是下一代微服务架构，那服务网格之后呢？中间件等其他通用逻辑怎么办？新问题出现架构反思服务网格可能并不是终极架构，真正意义实现通用能力下沉到基础设施的多运行时可能才是？ 2023年平台变革实践 平台定位 —— 云原生时代统一的入口流量接入和治理平台•统一服务模型•统一管控•丰富治理能力•开放的自定义能力扩展核心技术 —— 基于 Envoy 作为统一数据面引擎融合化架构 —— •纵向融合：流量网关、安全网关、业务网关•横向融合：API网关，7层负载均衡，TCP/UDP代理，K8S Ingress，K8S Gateway API，KNative网关API 网关轻舟融合网关API网关7层负载均衡TCP/UDP代理K8S Ingress客户端K8S Gateway API客户端客户端客户端客户端Knative 网关客户端TCP/UDP服务WebService服务HTTP服务Dubbo服务gRPC服务Knative Serverless架构变革 & 平台升级用户收益 & 价值兑现更低的资源成本更小的延时损耗更少的运维成本更小的演进难度 应用层注册发现EurekaNacosZookeeper动态配置ApolloNacos服务治理流量治理方法治理服务鉴权整合AgentArthasSkywalking流量录制Thin标签遗传用户扩展配置加解密密码热更新框架版本上报插件扩展注册发现模块扩展API日志操作API配置获取APIAgent接入API元数据信息API数据遗传API基础层core.jar 核心模块依赖隔离模块管理沙箱通信插件扩展Agent接入数据透传实例注册心跳维持类增强上报插件配置日志实现boot.jar启动模块module-loader.jar下载模块spy.jar沙箱通信底座Instrumentation + Bytebuddyagent-manager管理平台插件上传插件配置冲突分析插件管理实例管理应用管理agent-injector插件注入插件获取插件注入注册中心EurekaNacos配置中心ApolloNacosagent-download插件下载APM后台服务治理平台用户扩展管理平台框架版本管理数据库密码管理独立模块核心功能颜色说明：平台定位 —— 为应用提供代码无侵入的系统能力增强核心技术 —— 基于Java Agent无侵入字节码技术增强业务通用化架构 —— •通用增强器：快速、定点增强应用•开箱即用的应用插件：微服务全家桶能力，系统集成与协议转换能力等•统一纳管所有增强器，包括业务存量与基于平台新开发的Java Agent架构变革 & 平台升级用户收益 & 价值兑现业务应用增强零改造零感知解耦非业务逻辑到基础设施层降低企业Java Agent管理成本 架构变革 & 平台升级用户收益 & 价值兑现平台定位 —— 为传统微服务注册中心提供迁移、升级、高可用、可视化管控等能力的企业级注册中心平台核心技术 —— 基于云原生注册中心管理器增强传统注册中心能力企业级架构 —— •统一注册发现：无侵入服务注册、发现套件异构注册中心服务间互访•统一容灾：多级高可用•统一管理：PaaS化管理与观测注册中心接入、迁移、升级零改造零感知避免注册中心异常时微服务集群大面积故障异构注册中心服务间“鸿沟”消除AgentSidecar用户微服务（消费方）服务发现同步注册中心/配置中心用户微服务（提供方）注册/配置中心EurekaZookeeperEurekaNacosConsulK8S RegistryZookeeperZookeeper服务注册统一注册中心统一管理平台统一容灾多级高可用 架构变革 & 平台升级用户收益 & 价值兑现平台定位 —— 微服务、中间件等通用能力下沉与管理的统一平台核心技术 —— Dapr、Istio、Agent运行时统一化架构 —— •微服务、中间件等通用能力统一下沉与管理•低损耗运行时方案：Agent运行时•开箱即用的统一SDK生成器业务逻辑与通用逻辑彻底解耦，业务迭代速度与专注度提升低损耗低门槛实现统一化分布式架构落地现有微服务与服务网格架构平滑演进升级多运行时统一管理平台Agent运行时SDKSDK独立运行时SDK独立运行时中间件中间件Java 应用非Java应用非Java应用中间件调用中间件调用服务调用服务调用可由微服务框架NSF演进可由服务网格NSM演进 THANKS!