Redis长度增长

Question

我们的管道： VMware-Netflow - ＆gt; Logstash - ＆gt; Redis - ＆gt; Logstash-indexer - ＆gt; 3xElastic

我收集的数据：

• 我在kibana中注意到流入的流量是1小时，然后 2，然后3等等。
• 运行'redis-cli llen netflow'显示一个非常大的数字正在缓慢增加。
• 运行'redis-cli INFO以80kbps显示非常恒定的输入，以1kbps输出。我认为这些应该接近平等。
• 所有节点上的cpu负载都可以忽略不计。

我尝试了什么：

• 我确保logstash-indexer正在向所有3个弹性节点发送。
• 我在索引器上启动了许多额外的logstash实例，redis现在显示了40个客户端。

我不确定还有什么可以尝试。

Answer 1

TLDR：重新启动了所有三个弹性搜索节点，生活又恢复了良好。

我无意中将弹性搜索禁用为输出，并将我的netflows发送到以太网。 redis中的队列大小在几分钟内下降到0。虽然很难过，但这确实证明了弹性搜索不是logstash或redis。

我观看了弹性实例，看起来他们之间的沟通有些不对劲。所有这三个都显示了日志，表明2/3正在从集群中退出，并永远地响应集群ping。我认为正在发生的事情是，写作被弹性接受，并且在成功写入之前只是反弹了一段时间。

重新启动它们后，它们正确协商，并且正在按照应有的方式进行写入。