我一直在使用Play!Framework的WS来进行网络通话。假设我在范围内的自定义ExecutionContext中有5个线程。如果我要推送阻止网络呼叫,最多可以明确处理5个并行请求,我可以限制一次完成的网络呼叫数量。
使用WS时,情况并非如此。它将使网络调用超过5个线程,因为它不会在发出WS请求的自定义池中阻塞。我所观察到的是,我可以根据需要制作尽可能多的请求,并最终压倒操作系统资源。示例代码可以在下面找到。嵌套调用总共进行100 * 100 = 10000次调用。 我的问题是,有没有办法限制WS可以并行发生多少次调用(非阻塞IO)?我能想到的唯一方法就是在请求到达服务器之前进行负载均衡。谢谢!
val cols = (1 to 100).map { col =>
ws.url(s"http://get-resource/${col}").get().flatMap { futureColResp =>
val outerCol = futureColResp.json
val rowFutures = (1 to 100).map { row =>
ws.url(s"http://get-resource/${row}").get().map { futureRowResp =>
val innerRow = futureRowResp.json
doSomething(outerCol, innerRow)
}
}
Future.sequence(rowFutures)
}
}
Future.sequence(cols)
答案 0 :(得分:2)
在Play的配置中,您可以设置以下设置:play.ws.ahc.maxConnectionsTotal
此处描述:https://www.playframework.com/documentation/2.5.x/ScalaWS#configuring-asynchttpclientconfig
一旦,并发传出连接的数量超过了定义的值,Play应用程序将不会创建与目标的新连接并抛出异常:play.shaded.ahc.org.asynchttpclient.exception.TooManyConnectionsException: Too many connections: 5
在这种情况下,更好的行为可能是减少并行性以避免资源耗尽或尽可能减少对同一服务器的请求数量(可以批处理吗?)。