我正在为实时出价实施一些api,
它要求我实现一个http服务器。
但要保持运行,我必须在100ms
内回复,
它也可以达到每秒50,000
个请求,所以我必须这样做
将负载均衡器放在许多实例中。
所以,因为回复时间对我来说非常有价值,
负载均衡器如何影响这个?
答案 0 :(得分:-1)
SSL终止可以扼杀资源(CPU功率)。您可以将它放在Load Balancer或Web服务器上,但无论哪种方式,您都需要考虑是否确实需要SSL以及您将使用的加密级别。
请记住,如果你的流量会出现高峰,你应该预热负载均衡器。
除此之外,负载均衡器不应该是延迟的根本用途,它可能是您的Web服务器变得饱和,因此请确保使用正确的应用程序/流量指标设置自动扩展。
你可以做很多其他事情来重载你的web服务器需要做的工作(缓存,APC for PHP,将静态文件移到CDN,缓存数据库调用或使用非关系数据库,使用Nginx代替Apache)的
编辑:AWS ELB可自动扩展。我无法找到延迟是什么以及这会如何影响您的响应时间。如果您感兴趣,可以直接测试服务器与击中LB,但我怀疑结果可以忽略不计。用足够的流量点击你的LB(或服务器),你会看到响应时间越来越长。