黄泓 - Akulaku 智能计算系统及应用

Akulaku智能计算系统及应用

背景

• Akulaku是一家专注于海外市场的互联网金融服务提供商，服务内容包括网上购物和分期付款、现金贷、保险等。
• 主要应用场景包括金融风控、电商智能客服和电商推荐。

难点

• 高吞吐量与低延时：需要快速响应数据变更，保证实时性。
• 逻辑一致性：确保线下分析和线上部署逻辑一致。
• 特征和模型类型：涉及时间窗口类、群组关联类、关联关系类、机器学习模型和深度NLP模型等。

架构与案例

• 特征计算方式：分为场景驱动和数据驱动两种。

  • 场景驱动：在调用时计算，适用于现用现算。
  • 数据驱动：数据变更时计算，调用和计算解耦。

• 案例一：时间窗口

  • 需求：近XX天的订单个数。
  • 方法：
    • Flink滑动窗口：存在步长与窗口大小不匹配的问题。
    • 基于FlinkCDC的方案：使用中间存储保存窗口表，FlinkCDC捕捉变更计算结果。
    • FlinkSQL的方案：使用优先队列和MapState管理数据过期数据的出窗。

• 性能对比

  • 数据量：10亿/天。
  • openmldb集群配置：3x256G三节点。
  • 延时：4毫秒左右。
  • 性能基本相当。

• 场景驱动 vs 数据驱动

  • 场景驱动：实现简单，线上线下容易保持一致，但硬件依赖性强。
  • 数据驱动：业务调用时间与计算时间无关，但复杂性和一致性问题较多。

Ray应用

• 自动特征工程：利用AutoML、迁移学习等技术快速上线/更新模型。
• 模型推理决策系统：基于Ray的动态图actor调度实现大规模在线学习式推理任务或AB测试类推理任务。

总结

• 场景驱动和数据驱动各有优势，选择取决于具体应用场景。
• Ray作为轻量级的Python分布式框架，可作为机器学习平台的底座，支撑特征生成模型。