李鹤-如何稳定高效地利用 k8s 集群资源

Shopee云原生技术专家/李鹤 我们是谁 东南亚，台湾，巴西领先的电子商务平台 我们是谁 强大的品牌认知度，持续增长 Google Play 所有购物App中用户总花费时间第一所有购物App中平均月活第二所有App中最佳品牌第五 个人简介 •kubernetes, karmada member•2016 ~今，since v1.4•集群管理，编排调度，资源利用率优化•GithubID: likakuli•订阅号：云原生散修•blog: https://www.likakuli.com 内容简介 02 弹性伸缩 能力增强 •调度•重调度 •CA•HPA Kubernetes in Shopee 数据驱动 •浪费量化•风险量化•insight store 数据驱动 浪费量化 浪费量化 100%? 1 https://blog.betacat.io/post/2023/05/explain-latency-and-utilization-using-queueing-theory/ Fragmentation 2 Arch 3 浪费量化 浪费量化 风险量化 风险量化 风险量化 Insight Store Insight Store 能力增强 调度 重调度 重调度 混部 基于时区混部 forevery usage class:sum(usage of all pods) ≤node.Allocatable*safety threshold 差异化SLO混部 差异化SLO混部 差异化SLO混部 差异化SLO混部 差异化SLO混部 资源预测 短期 长期 ●关注模式（周期性、季节性）●较低的精确性●较长的预测窗口 ●关注趋势●更高的数据准确性和精确性 资源预测 ●降低驱逐概率●快速响应资源骤减，利用率突增的场景 资源预测 长期预测 长期预测数据缓存在调度器中 弹性伸缩