我希望您能帮我编写一些我需要编写的代码。我正在开发一个dotnet core 2.2控制台应用程序,该应用程序实际上需要与Web托管API并行进行大量同步API调用(第3方且不受我控制)。该API受IP速率限制,并且在这些请求之间没有任何平衡,它将很快导致IP禁令。该计划是平衡多个简单代理服务器之间的API请求流量-运行类似TinyProxy的服务器,每个服务器都有自己的外部IP
要对此进行协调,我需要编写一些代码(最好是在Python中)以接收这些请求,将它们转发到代理服务器上,然后将响应中继回请求的应用程序。因为这些调用每次可能需要一秒钟左右的时间才能完成,所以该软件必须能够处理并发请求,以使响应保持响应并且不会造成瓶颈(问题5-10个最大并发请求可能会很好。)我将设置代理服务器)。它还需要在其中包含一些逻辑,以便根据上次使用每个代理的时间或是否接近速率受限的点来确定将每个请求转发到哪个代理服务器。
我不知道如何处理这个编排片段。我猜想我需要为每个要中继的代理服务器提供套接字详细信息,并公开某种可以接受请求转发的功能,但是我不确定这到底是如何工作的。如果它可以充当某种中间人,并且只接受请求并转发它们,并在不对标头进行任何操作的情况下将它们的响应返回,那就太好了,但是我从来没有做过这样的事情,所以我将不胜感激您可以提供的任何建议和/或代码示例-谢谢