您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[腾讯]:数智技术驱动,打造极致性价比 - 发现报告

数智技术驱动,打造极致性价比

2024-09-12腾讯惊***
AI智能总结
查看更多
数智技术驱动,打造极致性价比

腾讯云大数据公有云基础产品性价比全面升级 胡嘉琪主讲人: 经济新常态下,面向大数据降本增效诉求,如何打造更优性价比的产品形态? 数智技术驱动,打造极致性价比 方向三更灵活的产品形态 方向二更优架构模式 方向一更高计算性能 10倍日志场景性价比提升检索分析服务 数据湖产品 腾讯云ES日志场景读写分离、存算分离架构升级,实现10倍性价比+ Meson高性能计算引擎 性价比升级01Meson高性能计算引擎升级 【Meson简介】腾讯云通用大数据高性能计算加速套件解决方案,整体围绕极致软件工程+软硬一体加速和AI加持的设计理念,致力于打造通用化、套件化、适配腾讯云大数据全体系产品的通用计算加速底座 设计理念 夯实软件工程能力,围绕计算硬件化打造软硬一体极致分析,长期往智能加速及场景智能进化 Meson Engine 数据湖 Mesonfor Data lakeNative向量化计算|GPU/硬件加速 Hadoop开源大数据处理体系|全托管数据湖体系 性价比升级01Meson高性能计算引擎性能提升效果 检索分析服务场景 数据湖场景 腾讯云检索分析服务ES 弹性MapReduce+数据湖计算DLC 2.27x 全球首个支持GPU加速的ES产品 大数据基准性能提升 ⚫首发全场景支持原生Iceberg表⚫首发运行时Iceberg表向量化读取⚫首发大规模湖存储向量化引擎优化 在检索索分析领域,腾讯基于Meson实现了基于腾讯自研紫霄GPU的向量检索加速,成为全球首个支持GPU加速的ES产品 ES日志场景10倍性价比提升 读写分离+存算分离架构 性价比升级02ES日志场景10倍性价比提升 腾讯云ES全新自研技术栈:日志场景读写分离、存算分离新架构重大升级,实现冷热数据一体化搜索及弹性伸缩能力,写入性能提升3~5倍,存储平均降本50%~80% 采用delta+base架构,存储与计算弹性伸缩,降本90%+ 资源隔离提升可用性,内存Segment构建与拷贝,写入性能最大提升10倍 性价比升级02ES读写分离+存算分离架构降本效果 存储成本下降相比原ES架构下2副本CBS方案,ES存算分离下实现90%+ 最高写入性能提升10倍相比原ES架构引入物理复制,读写分离后实现 某客户案例 社区ES架构客户成本 读写分离+存算分离全新架构写入性能最高可提升10倍 50个16C64GSA5机型+2TBSSD节点 SA5机型(1,747.2元/月)*50=87,360元2TBSSD(2048元/月)*50=102,400元 存储成本 合计成本28,038元/月 更灵活的产品形态 EMR支持托管节点模式,最高降本30% 托管节点(简称MNode)由EMR后台统一维护硬件设备,可用于TASK节点扩容,最高可节省30%资源使用成本 客户主要收益 【核心技术亮点】故障自动替换、无需关注单个机型库存 低成本 企业降本需求增强 相对HOST节点最高可节省30% 宏观经济环境导致企业降本需求日渐增强,期望有更多降本解决方案 机型库存动态变化 更易用 扩容需配置多个机型保障成功率,且需要不定期检查售罄情况替换配置,运维繁琐 无需配置细分机型轻松管理扩容规格 硬件故障维护复杂 免运维 硬件故障时需要自行迁移恢复业务,操作繁琐 节点故障可自行替换,无需人工介入服务迁移恢复 ES Serverless模式提供更高性价比日志分析 客户主要收益 ES传统集群模式挑战 【核心技术亮点】底层完全屏蔽,无需关心集群运维和索引运维,平台提供端到端SLA保障 降低成本 数据接入 存算分离:去除冗余计算和存储,自动伸缩按量付费:按需使用,读写流量+存储费用 ⚫Beats、Kafka、Logstash⚫采集、缓存和加工配置⚫组件部署和运维管理 索引管理 提升易用性 ⚫Setting、mapping、alias⚫分片数量、动态调优⚫滚动、降冷、删除 一站式场景化解决方案•集群免运维•索引免运维•数据链路免运维 集群运维 ⚫配置调优、重启、升级⚫弹性伸缩,应对业务压力⚫节点/磁盘不均、过载 保持兼容性 •100%兼容开源ESAPI•100%兼容ELK生态 学习成本、人力投入、时间投入