邓宇星-v2-SUSE-海量K8S集群的应用部署和管理实践

海量K8S集群的应用部署和管理实践 邓宇星SUSE架构师 邓宇星 SUSE软件架构师云原生/多集群 在Rancher/SUSE工作，负责产品研发/项目交付多集群管理/CICD/监控日志告警RFO(Rancher/RKE2 foropenEuler)发行版维护 目录 DC与Edge集群共同管理1海量K3s边缘集群管理2基于fleet的海量集群应用部署分享3门户整合以及平台推广4Q&A5 DC与Edge集群共同管理 汽车制造业客户–云边协同/边缘自治 •基于K3S实现了MES、WMS等系统在节省约35%硬件成本的前提下的高可用，工厂网络在线时可批量管理、更新、发版、维护，工厂网络离线时K3S本地自治，服务不中断，产线不停产。 •通过Rancher纳管全球工厂K3S及数据中心K8S，统一平台、统一权限、统一管理。立足上海，管理全球。 汽车制造业客户部署案例 汽车制造业客户部署案例 汽车制造业客户部署案例 海量K3s边缘集群管理 海量Managed K3s管理实践 •IAC(Infrastructure As Code) Tools •Puppet – Server/Agent Mode with state file•Ansible – CLI tools with script like configuration•Terraform– CLI tools with state file Terraform Demo Terraform Demo Terraform Demo Fleet的应用部署分享 GitOps背景Fleet架构Fleet应用管理/部署实践 GitOps背景 GitOps是一种持续交付的方式，是DevOps中的一部分，它的核心思想是将应用系统的声明性基础架构存放在Git版本库中。 GitOps背景–架构 Fleet架构 •Fleet Manager (gitjob组件polling mode)从githubpull代码•Fleet Manager运行“fleet apply”通过k8s resource文件生成bundles资源对象•为每个下游cluster生成bundleDeployment资源对象 •下游agent从Fleet Manager中pullbundleDeployment资源对象 •生成helm charts/manifests Fleet应用管理/部署实践– Cluster/Group Fleet应用管理/部署实践–Repo&Target 配置文件例子: https://github.com/orangedeng/devops-demo/tree/master/fleet-test Fleet应用管理/部署实践– Fleet配置文件 Fleet应用管理/部署实践– Fleet配置文件 •Kustomize和Helm于Fleet来说是共生关系，可以通过Fleet配置文件驱动Kustomize与Helm Chart部署/升级 •针对不同的部署目标(target)，也支持override操作 参考文档:https://fleet.rancher.io/ref-fleet-yaml 门户整合以及平台推广 门户集成案例 门户集成案例–某字母电器制造商 处理方式 项目难点 1、如何与当前XX云门户进行统一对接2、已容器化运行的单机Docke应用服务和VM运行的应用服务如何改造上云3、平台运行在openstack上，存储对接CEPH，问题范围划分和职责划分4、以有的Kubernetes集群及部署的业务如何进行管理 1、确认展示功能，梳理对接接口，配合接口对接调试 2、梳理用户需要上云的系统，划分出kubernetes支撑的和VM支撑的，对于kubernetes划分有状态和无状态，制定迁移计划，对于原VM支撑的应用，梳理其技术架构，选择典型进行尝试，积累经验再内部逐步推广 3、上线前进行各项功能、性能测试数据归档，提供常见问题处理手册和技术培训指导。 4、实现先导入纳管，后迁移统一管理的方案 门户集成案例–某字母电器制造商 门户集成案例–某国产计算平台制造商 成立独立部门后续对内推广 所有集群统一建设和管理 n为客户提供容器管理标准化经验，在新部门成立的道路上减少障碍n配合客户将现容器解决方案，推广到其他应用系统，逐步进行迁移 n业务向kubernetes集群都从Rancher平台创建并进行管理，原集群业务迁移到Rancher集群运行n为DevOps平台管理集群提供支撑，DevOps平台调用Rancher接口实现多集群发布 门户集成案例–某国产计算平台制造商 Q&A