使用多个服务器扩展statsd

Question

我正在布局一个我们将使用statsd和graphite的架构。我理解石墨的工作原理以及单个统计服务器如何与之通信。我想知道架构和设置如何用于扩展statsd服务器。你有多个节点statsd服务器，然后一个中央statsd服务器推送到石墨？我似乎无法找到有关扩展statsd的任何信息，任何有关如何拥有多个statsd服务器的想法都将受到赞赏。

Answer 1

我现在正处理同样的问题。在多个statsds之间进行天真的负载平衡显然不起作用，因为具有相同名称的密钥最终会出现在不同的statsds中，因此会被错误地聚合。

但是在需要扩展的环境中使用statsd有几种选择：

• 对计数器指标使用客户端抽样，如statsd文档中所述（即，不是将每个事件发送到statsd，只发送每10个事件并使statsd乘以10）。缺点是您需要为每个指标手动设置适当的采样率。如果您采样的值太少，则结果将不准确。如果你抽样太多，你就会杀死你的（单个）统计数据实例。

• 构建一个自定义负载均衡器，按度量标准名称分片到不同的统计信息，从而避免了聚合损坏的问题。其中每一个都可以直接写入Graphite。

• 构建一个statsd客户端，在本地计算事件，并仅将它们汇总发送到statsd。这大大减少了流向statsd的流量，并使其保持不变（只要您不添加更多服务器）。只要您将数据发送到statsd的时间段比statsd自己的刷新周期小得多，您也应该得到类似的准确结果。

• 我在生产中取得巨大成功的最后一点的变化：使用第一层多个（在我的情况下为本地）statsds，这些statsds又聚合成一个中心statsd，然后与Graphite交谈。第一层statsds需要比第二层更短的刷新时间。为此，您需要一个statsd-to-statsd后端。由于我遇到了这个问题，我写了一个尽可能提高网络效率的问题：https://github.com/juliusv/ne-statsd-backend

实际上，遗憾的是，statsd不是为了以可管理的方式进行扩展（不，我不认为手动调整采样率是“可管理的”）。但是如果你坚持下去，上面的解决方法应该会有所帮助。

Answer 2

我看到的大多数实现都使用每个服务器指标，例如：<env>.applications.<app>.<server>.<metric>

使用这种方法，您可以在每个盒子上放置本地statsd实例，在本地执行UDP工作，并让statsd将其聚合发布到石墨。

如果您真的不需要每个服务器指标，您有两个选择：

1. 合并可视化图层中的相关指标（例如：by configuring graphiti to do so）
2. 使用碳汇聚到take care of that

Answer 3

如果您可以访问像F5 BigIP这样的硬件负载均衡器（我想有OSS软件实现可以执行此操作）并且恰好在您的指标中包含每个主机的主机名（即您正在计算“appname”之类的内容） .servername.foo.bar.baz“并在Graphite级别聚合它们”您可以使用源地址相关性负载平衡 - 它将所有流量从一个源地址发送到同一目标节点（在合理的超时内）。因此，只要每个度量标准名称仅来自一个源主机，就可以获得所需的结果。