您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 腾讯:《ES 企业版向量、指标搜索性能优化介绍》-发现报告

ES 企业版向量、指标搜索性能优化介绍

2026-08-28 腾讯 惊雷
报告封面

标量过滤查询提速:避免高过滤下浪费的质心与倒排表扫描,过滤越严延迟越稳 (含)全图驻留内存;不足时性能悬崖式恶化 查询量化加速:两级质心非对称量化,量化开销从降至,召回几乎无损 ()层次化分簇,查询只加载相关簇,主体驻留磁盘;内存受限时线性缓降而非崩溃 竞品参照:网络挂载存储上,吞吐最高达的倍(同等召回) ●●● 段合并提速 为什么快:图构建被数十亿次向量比较主导,天然适合并行 向量索引吞吐提升 搜索 构建 承接全部查询流量完成量化转换(纯路径) 插件构建段持有活跃写分片,专注索引与合并 两种部署模式 避坑提示 小集群:构建搜索一体节点,运维最简生产规模:摄入层专职构建,省节点内存与成本 不支持(是纯量化路径)层先建,转换放在后续节点完成 查询快于 索引吞吐提升(一年累计) 杀手锏 sum by (host.name) (rate(http_requests_total))| WHERE `sum` > 100// PromQL输出只是管道第一站| LOOKUP JOIN hosts ON host.name| SORT `sum` DESC | LIMIT 10 是的:结果作为普通列返回,可继续、过滤、再加工自身做不到这种后处理 迁移体验 覆盖度 现有仪表盘小改即可指向; 对主流开源仪表盘查询覆盖; 面板选类型直接写,时间范围自动取自时间选择器 暂缺、、、等,均在路线图中 已的搜索类算子 FROM logs-* METADATA _score| WHEREMATCH(message, "timeout", {"boost": 2.0})ORQSTR("error AND payment")// OR +权重=混合检索| WHERE _score > 0.6| EVAL amount = JSON_EXTRACT(_source, "$.order.amount")// 9.4:直取JSON元素| SORT _score DESC | LIMIT 20 全文函数;融入分析管道;重构部分结果胜过完全失败 :访问所有已摄入字段() 消除「无知悬崖」映射时漏掉的字段不再永久不可查,查询覆盖全部已摄入数据 五项技术一览 全字段访问未映射字段可查 近似查询百倍提速置信信号 提取路径语法直取元素 逻辑视图查询封装为虚拟索引 子查询单语句组合多管道 FROM firewall-logs|LOOKUP JOIN hostsONip, region,zone//多字段匹配| WHERErisk> 80//过滤自动下推| STATS COUNT(*) BYzone ()多字段匹配表达式(,)跨集群秒级关联 子查询(技术预览)单条语句组合多个独立管道(逻辑),谓词下推进子查询内部执行 带过滤的最高提速(右侧过滤条件自动下推,防止记录爆炸) 逻辑视图(技术预览):复杂管道封装为虚拟索引,直接引用;视图更新自动同步仪表盘与告警 近似查询: 大数据集聚合最高提速,并输出置信区间告知可信度 精度细节 TSmetrics-* | STATS AVG(RATE(requests, 5m))BY TBUCKET(10m), host.name//窗口可小于时间桶| WHERE TRANGE("now-24h", "now")| SORT `AVG(...)` DESC 降采样改为感知计数器重置:存首个值重置时补辅助文档,计算更准确且向后兼容 查询前自省 窗口解耦 新增命令:提交重聚合查询前,先看清时序数据的与指标结构 时序聚合窗口可小于时间桶(如窗口×桶);此前只能等于或整倍于时间桶