虎牙-郑健彦-智能弹性在虎牙降本增效上的探索与实践

核心观点与关键数据

郑健彦作为虎牙直播基础保障部AIOps leader，介绍了基于AI预测的日常弹性、业务容量模型、基于容量模型的赛事弹性以及边缘算力智能弹性等实践。

1. 基于AI预测的日常弹性（AI-HPA）

• 问题：传统HPA基于指标阈值伸缩存在时延，无法应对峰值毛刺。
• 解决方案：通过LightGBM算法预测指标，提前扩容缩容。
• 效果：典型服务预测准确率90%以上，解决扩容滞后问题。
• 成本：每组数据训练预测耗时15秒。

2. 业务容量模型

• 目标：用最低算力保障赛事期间服务稳定。
• 方法：建立PCU与核数的关系模型，区分赛事相关服务。
• 准确率：整体89.35%，top100应用90.43%。

3. 基于容量模型的赛事弹性

• 架构：将容量模型植入AI-HPA，根据PCU预测核数。
• 效果：大赛事提前扩容，小赛事实时扩容，资源利用率提升。
• 巡检：可视化调整模型，确保准确率>85%。

4. 边缘算力智能弹性

• 背景：边缘算力成本高，利用率低。
• 方案：按天弹性，以观众/主播PCU指标为主。
• 效果：信令业务上线后效果显著。

研究结论

• AI-HPA通过预测解决弹性滞后问题，提升服务质量。
• 容量模型有效降低赛事算力成本，保障稳定性。
• 边缘算力智能弹性优化资源利用率，节省费用。
• 改变了赛事与应用部署架构，实现成本收益。