迁移到es 5后弹性搜索性能下降

时间:2018-02-21 02:41:25

标签: elasticsearch elasticsearch-5

我们最近将我们的es群集从1.4迁移到5.4,并且看到了性能下降。

 {
"from": 0,
"size": 100,
"query": {
"constant_score": {
"filter": {
"bool": {
"must": [
{
"term": {
"entityType": {
"value": "PAID_INITIATIVE"
}
}
}
]
}
}
}
}
}

`

JVM:Java 8 两个群集的硬件相同 除了负载测试之外,我们没有将该集群用于任何其他查询

当我们查询100k文档(大小:100k)

时,问题变得很深

我们有一个用例,我们需要过滤100k文档 我已经在es 5集群中测试了LZ4和best_compression。在这两种情况下表现都很糟糕

For 100k docs
Es 1.4 : ~2s
ES 5.4 : ~3.5s (LZ4)
ES 5.4 : ~ 5s (best_compression)

我检查了热线

大部分线程都停留在解压缩

100.2%(500ms中的501ms)线程'elasticsearch [es-data-nqa-spr_nqa_elasticsearch-5.4-1-7-1c] [[transport_server_worker.default]] [T#12]的CPU使用率 7/10个快照共享52个元素

java.util.zip.Inflater.inflateBytes(Native Method)
java.util.zip.Inflater.inflate(Inflater.java:259)
org.apache.lucene.codecs.compressing.CompressionMode$DeflateDecompressor.decompress(CompressionMode.java:224)
org.apache.lucene.codecs.compressing.CompressingStoredFieldsReader$BlockState.document(CompressingStoredFieldsReader.java:560)
org.apache.lucene.codecs.compressing.CompressingStoredFieldsReader.document(CompressingStoredFieldsReader.java:576)
org.apache.lucene.codecs.compressing.CompressingStoredFieldsReader.visitDocument(CompressingStoredFieldsReader.java:583)
org.apache.lucene.index.CodecReader.document(CodecReader.java:88)
org.apache.lucene.index.FilterLeafReader.document(FilterLeafReader.java:411)
org.elasticsearch.search.fetch.FetchPhase.loadStoredFields(FetchPhase.java:347)

我只需要文档中的id,即使我尝试使用stored_fields:[“id”],它仍然会解压缩文档。

对此的任何见解都将受到高度赞赏

谢谢, 尼蒂什

0 个答案:

没有答案