Cloud DataFlow总是最多15名员工?

时间:2017-09-20 20:24:19

标签: google-cloud-dataflow

是否有可能何时知道自动缩放功能何时受到Google Cloud DataFlow上某些IAM配额的限制?我发现我的许多任务,无论大小,开机时间等等,都会增长,直到他们遇到15名工人。这可能是巧合,但我对此表示怀疑。我可以关闭自动缩放并将num worker设置为50而没有问题,因此我没有明确的配额限制。

enter image description here

配额似乎不是问题。

enter image description here

但即使是大型任务似乎总能击中15名工人。当我手动设置40个工作程序时,任务完成得更快,我知道这并不意味着自动缩放不起作用,但是很有用。

1 个答案:

答案 0 :(得分:1)

自动缩放的默认最大工作数目前为15.如果您希望允许它扩展为更多工作​​者,可以使用--maxNumWorkers=选项。