加载负载均衡器

Question

在我们的TCP服务器部署中，我们拥有所有客户端最初连接的负载均衡器。然后，负载均衡器为每个负载平衡器提供它们要连接的实际服务器IP地址。客户端然后断开与负载均衡器的连接，并继续与他们获得的服务器IP地址进行TCP连接。因此，负载正在服务器之间分配。

这种安排非常适合成千上万的连接。但我们担心这是否适用于数百万个连接？负载均衡器本身无法及时向所有客户端提供服务器IP地址，这是我们的噩梦。这里有什么替代品？

Answer 1

确实取决于您使用的负载均衡器是否可以满足。一些负载平衡器可以进行数百万个L4连接。此外，我不认为将连接直接连接到服务器是个好主意，因为如果服务器不可用，连接会发生什么。我会保持所有流量进入负载均衡器。您还可以考虑直接服务器返回，即客户端的请求通过负载均衡器并且响应直接发送到客户端（绕过负载均衡器）。