应用程序服务器中的线程和HttpServer中的连接

Question

我正在构建一个系统，我将使用两个服务器和一个负载均衡器， 该公司拥有超过60,000名用户，他们期望10,000个并发用户，所有交易将在5秒内发生

我不确定每台服务器的情况如何：

HttpServer中的连接数量 应用程序服务器中的线程数量

我知道当系统投入生产时我会发现这些数字，但我需要从某些东西开始

任何建议或建议？

Answer 1

这是关于容量规划我可以提供如下建议，但这些都取决于系统的技术可行性和业务要求。

• 尝试找出您需要支持的最大容量。因此，您可以进行必要的压力测试来解决这个问题。
• 确保系统能够通过水平集群等提高性能。
• 决定预测的容量需求（CR），CR可能是H / W，带宽等

预测CR =当前CR + 30％*当前CR

• 最后，这是关于持续改进，密切注意变化。

  检查系统的可靠性，决定对硬件，软件，架构等的更改。

希望这能为你增添一些价值。

Answer 2

设置测试服务器并从那里推断出数字（花一些时间进行研究以得出有根据的猜测）。

例如，“应用程序服务器中的线程数量”取决于您使用的HTTP服务器类型。有些服务器可以使用单个线程处理数百个连接，但编程/配置错误的服务器最终可能会使用每个连接1个线程。

性能要求“所有交易将在5秒内发生”需要进一步详细说明。显示带有数据（从数据库）到用户的网页可能不会超过3秒（如果需要更长时间，用户会感到烦恼），但理想情况下应该少于1秒（普通用户会期望这样）。另一方面，从复杂的表单中存储数据可能需要10秒钟（只要表格不经常使用）。

我对负载要求“他们期望10,000个并发用户”持怀疑态度。这意味着六分之一的公司员工正在积极使用网络应用程序。我认为这将是“高峰使用率”而不是“平均使用量”。关于性能要求和成本，了解这一点非常重要：如果系统在高峰使用期间必须遵守性能要求，则需要更多资金才能获得更好的硬件和/或更多硬件。