多个客户端成为后端服务器的单个HTTP持久连接

Question

我正在开发一个同时为数百个用户提供服务的Web企业应用程序。 目前我们发现有时与Jetty服务器的TCP连接太多，使我们的服务器运行缓慢。

我们听说有些负载均衡器支持TCP offload，它将来自多个客户端的多个HTTP请求整合到后端服务器的单个TCP套接字中。

我们研究过HAProxy，Nginx和Varnish，但我们找不到相关的功能。

我想知道是否有任何负载平衡或反向代理软件支持将多个客户端整合到后端服务器的单个HTTP持久连接中。

Answer 1

有负载均衡器可以做到这一点。这两个，我绝对知道可以做到的，是F5的'Big-IP LTM'（使用OneConnect功能）和Shaka Technologies的Ishlangu负载均衡器ADC。

F5's description for OneConnect：

  

BIG-IP系统OneConnect功能可以通过有效管理BIG-IP系统和后端池成员之间创建的连接来提高网络吞吐量。 OneConnect功能与HTTP Keep-Alives配合使用，允许BIG-IP系统通过使现有连接可供其他客户端重用来最小化服务器端TCP连接的数量。

Shaka Technologies description for Connection Multiplexing：

  

Ishlangu负载均衡器ADC的连接多路复用功能通过减少后端服务器上的并发连接和连接速率，提高了Web应用程序性能并降低了服务器负载。

     

连接多路复用为多个客户端重用每个服务器的TCP连接。使用较少的打开连接和较少的连接打开/关闭可以降低每台服务器的资源消耗。最小化每台服务器的资源利用率可实现服务器整合，从而节省运营成本。