我正在构建一个在服务器上运行的软件代理,该软件代理充当服务器管理器,即启动/停止Docker容器,监控等。
该服务器将托管/提供许多服务,这些服务是在Docker容器中运行的程序,每个容器1个程序/服务
可能有这么多服务器,这些服务器不一定是高性能服务器,它们的范围从小型VM到高性能计算机。现在,我假设每个服务都使用HTTP来提供请求。
我想在此软件代理中实现的功能是跟踪当前连接(请求)服务器的每个服务的客户端数量(服务器A处理500个请求)或特定程序是否正常(程序A)正在处理100个请求,程序B正在处理200个请求) 我想知道这个数字,因为我想在托管相同服务的服务器之间进行工作负载平衡 以下是我的想法。
所以,我想问一下上述方法的建议,哪一个更好,或者我该如何实施呢?有没有更好的方法来做到这一点?