Elasticsearch 查询过程中的 pre-filter 原理
Elasticsearch 查询过程中的 pre-filter 原理 大家都知道在对索引执行查询的时候，需要在所有的分片上执行查询，因为无法知道被查询的关键词位…
Elasticsearch 7.3 的 offheap 原理
一直以来，ES 堆中常驻内存中占据比重最大是 FST，即 tip(terms index) 文件占据的空间，1TB 索引大约占用2GB 或者更多的内存，因此为了…
关于 Elasticsearch 时区的小知识
我们有一个监控系统使用telegraf 作为采集器，按天生成索引（由 telegraf 创建），写入到 Elasticsearch 中，有位同学发现，索引会包含…
MALLOC_ARENA_MAX=1 与 MALLOC_ARENA_MAX=4有什么区别？
2019年 Elastic开发者大会的时候我曾经说过 glibc 导致的堆外内存过多问题： 如果应用程序每次分配内存的时候都通过系统调用 mmap，sbrk等来…
Elasticsearch 7.4的 soft-deletes 是个什么鬼
新概念 从 Elasticsearch 7.4 开始，peer-recovery（副分片的恢复）不再依赖从主分片拉取 translog。在 6.0-7.3的版本…
深入理解 Elasticsearch 7.x 新的集群协调层
ES 7.x 重构了一个新的集群协调层，他实际上是 Raft 的实现，但并非严格按照 Raft 论文实现，而是做了一些调整，不过话说自己实现 Raft 协议的时…
一次 jbd2进程导致磁盘 io 高的分析解决过程
故障现象 在3节点组成的大数据集群中，混部了 ES，kafka，zk，pg，mysql，spark，yarn，hdfs，以及业务的 etl 程序等组件。起初发现…
Elasticsearch & lucene 的 segment 生成与 flush 过程解析
最近在对 es 的测试过程中，esrally 批量写入数据后，发现 segment 数量比较预期要多，segment 的生成涉及到 lucene 内部的一些原理…
再谈 TCP 的 CLOSE_WAIT
背景 某日集群告警，hbase regionserver 因 fd 不足导致进程主动退出，简单排查后发现regionserver 到 datanode 的TCP…
在 esrally 中使用少量数据进行循环压测
在对集群进行压测的时候我们经常需要进行长时间的，不间断的测试，以观察其性能的波动情况。例如在测试写入速度时，由于 lucene 的 segment merge …