Node js REST客户端扩展数据收集

时间:2020-10-08 06:06:21

标签: node.js rest scaling horizontal-scaling node-rest-client

我有一个场景,我的节点js客户端从rest api收集数据。

场景:我的api端点就是这样的 http:// url / {project} 其中 project 是参数。该项目来自数据库表。

这是我的程序:

  1. 我正在将所有项目名称从数据库移到列表中
  2. 对列表中的每个项目使用循环调用rest终结点

我的查询:如果我在数据库中的项目数量较少,则此过程可以正常工作,但是,如果我要收集大约1000个项目,则请求将花费很长时间,有时由于超时错误。

我如何扩展此过程,以便它能在很长的时间内完成数据收集?

0 个答案:

没有答案