数据治理传统模式痛点
传统数据治理模式主要存在以下问题:
- 运动式治理:短期可见成效但不可持续,未融入日常流程;
- 治理措施落地难:缺乏工具支撑,管理规范流于形式;
- 成效不可量化:治理效果难以可视化,推进难度大。
数据治理核心目标
金融行业数据治理的核心目标为兼顾安全、成本并最大化数据价值,需解决以下四项使命:
- 数据价值最大化:通过生命周期管理和成本/价值评估降低应用成本,释放数据价值;
- 治理工具化:结合DAMA方法论与平台工具,实现治理线上化;
- 规则自动化:通过内置规则和策略提升治理效果,识别安全风险和敏感数据;
- 全周期治理:整合多方平台和角色,提供统一治理能力;
- 高可用数据服务:保障数据服务稳定性。
开发治理一体化解决方案
解决方案将数据研发与治理结合,核心能力包括:
- DataOps全周期数据研发:标准化建模流程,降低人为风险,提升效率;
- 元数据治理:事前强制检查(如数仓分层、命名规范、码值落标),事后自动盘点;
- 血缘治理:自动解析脚本生成血缘关系,实现层级依赖、分层依赖等自动化检查;
- 自动调度能力:基于依赖血缘实现自动化调度,屏蔽人为控制;
- 质量治理:建立全流程数据质量体系,实现问题追踪、实时预警和修复;
- 开发测试一体化:解决测试环境痛点,满足监控合规需求,实现数据需求闭环管理;
- 数据安全治理:事前制度、事中脱敏/阻断、事后审计,构建强固保护伞;
- 数仓分层加密:ODS贴源层敏感字段识别,ODS加密层高敏感字段加密,数仓层字段级血缘标识,查询时动态脱敏;
- 敏感数据发现:数据集成过程中自动识别敏感数据;
- 基于元数据的加密:兼顾安全与效率,通过元数据标记和执行加密;
- 数据沙箱:实现数据流通与安全共享,支持数据开发全流程,确保“只进不出”;
- 成本价值管理:多维度量化分析数据成本与价值,实现ROI分析和成本治理。
逻辑数仓
逻辑数仓以用户视角出发,核心能力包括:
- 逻辑数仓层:构建面向用户和应用的逻辑表,隔离物理表;
- 物理层智能调度:基于用户行为触发智能编排,自动合并计算,下线无效数据;
- 性能自优化:自适应查询优化(物化、缓存、Cube/索引);
- 主动数据治理:实现“数据自动驾驶”,逻辑层快速调整,物理层自适应。
逻辑数仓通过改变数仓开发模式,让数据人员专注业务,解决平台成本暴增问题,实现主动数据治理。