登录
注册
个人信息
我的订单
我的报告豆
我的优惠券
我的笔记
我的阅读
我的收藏
我的下载
我的上传
我的订阅
在线客服
退出登录
回到首页
AI
搜索
发现报告
发现数据
发现专题
专题报告
专题百科
研选报告
定制报告
VIP
权益
付费社群
发现一下
行业研究
公司研究
宏观策略
财报
招股书
会议纪要
Token
低空经济
十五五
AIGC
大模型
当前位置:首页
/
行业研究
/
报告详情
RaftKeeper:构建跨机房高可用 OLAP 集群
信息技术
2023-08-09
DataFunSummit2023:OLAP引擎架构峰会
发现报告
项目简介
项目背景
:Zookeeper在OLAP业务中引发性能瓶颈和稳定性问题,如Table ReadOnly导致插入失败、分布式DDL操作超时等。
Zookeeper引起的问题
:JVM GC STW、状态机Map扩容、mntr命令等阻塞因素影响性能。
RaftKeeper项目
:社区计划研发keeper替代Zookeeper,解决Zookeeper在OLAP中的角色问题(Metdatastore、Operation Log、Coordinator)。
项目研发动机
:实际业务问题突出,社区计划研发keeper替代Zookeeper。
项目目标
:完全兼容ZK用户接口,性能至少提升2倍,降低ZK阻塞因素。
Raft分布式共识算法
:用于解决分布式副本间数据一致性,采用majority规则,保证已commit请求不回退。
Raft优势
:相对Paxos易理解,工程实践简单,广泛用于Kudu、TiDB、Etcd等。
WhyNuRaft
:算法方面,第三方依赖少,代码优雅;实现方面,Pre-vote机制、Leadership过期机制、Leader指派机制,增加quorumsize灵活性。
核心特性
:完全兼容ZK生态,写吞吐Zookeeper 2倍,查询平稳,TP99稳定,Session内请求顺序保证,支持30w长连接。
功能和架构
基础功能
:支持Zookeeper握手协议、基础命令(Create、Remove、Exists、Get、Set等)、异常处理。
高级功能
:四字命令(NodeWatch、ParentNodeWatch、Snap)、特殊节点(Ephemeral、Sequential、SequentialEphemeral)。
架构设计
:
整体架构要点
:状态机是核心模块,读请求直接访问状态机,写请求走LogReplication流程,数据持久化采用snapshot+binlog,LogStore设置cache提升性能。
一致性约束
:Session内请求顺序执行,已提交事务顺序执行。
架构设计–session内一致性
:PipeRunner保证Session内写请求在同一个线程执行,读请求按xid顺序执行。
架构设计–状态机
:负责功能实现、logcommit请求应用、用户查询请求处理、维护session信息。
架构设计–存储结构
:采用snapshot+binlog方式持久化数据。
性能优化
性能优化
:
Batch
:将用户写请求批量处理,提升效率。
Pipeline
:请求分解为多个环节,由不同线程完成,形成流水线提升吞吐量。
延时优化–状态机Map
:使用TwolevelHashMap,减小阻塞时间。
延时优化–异步Snapshot(WIP)
:异步snapshot消除查询阻塞,但可能导致部分日志被apply两次。
优化小结
:
性能优化
:Pipeline和Batch执行模型,环形队列缓存日志,多线程处理请求。
延时优化
:状态机哈希表优化,异步Snapshot消除阻塞,C++无JVMGC阻塞。
上线情况
上线情况
:2021年11月至今上线60+集群,经历3次大促考验。
跨机房架构
实施方案
:OLAP以副本为粒度跨2个机房部署,RaftKeeper按2:2:1方式部署在3个机房。
架构优势
:提供机房级别业务高可用保障,更强数据一致性。
RaftKeepervsZookeeper
:更优秀性能和稳定性,可指定Leader所在zone。
NuRaft社区
:RK开发过程中NuRaft社区给予帮助,RK也回馈社区部分Feature。
OLAP社区
:RK源自OLAP社区,但独立开发,发展思路不同,更倾向于替换Zookeeper。
你可能感兴趣
【财联社早知道】Token调用总量已超过上一代模型10倍,腾讯AI战略全面提速,机构称Token消耗规模将长期保持高增态势,这家公司已构建超330个节点机房的分布式算力网络,可运营算力规模达5.3万路-20260514
未知机构
2026-05-14
小红书MySQL跨云高可用架构
中国数据智能管理峰会
2023-03-15
快速构建现代化的高可用云原生技术体系
网易
2023-03-09
金融期权:观望氛围较浓,可用卖出宽跨式
宝城期货
2024-01-10
违约集群风险溢价及其对跨市场资产定价的启示
美联储
2023-08-15
产业集群数字化:构建协同发展的新动态
国家工业信息安全发展研究中心
2022-10-15
由规模驱动向内生发展驱动转型,构建大健康产业集群
医药生物
东兴证券
2019-08-29
引入百度生态链企业落地硚口,入驻基地,展开构建人工智能产业集群
信息技术
北京百度网讯科技&中国信息通信研究院
2025-04-28
机构龙虎榜解读算力租赁交换机超节点提供全面的数据中心产品与解决方案成功落地多个万卡智算集群液冷超节点技术兼容下一代AI加速卡构建全栈ICT基础设施护城河20260712
未知机构
2026-07-12
珠宝时尚业务高速增长,构建家庭消费产业集群
商贸零售
长城证券
2023-08-31