是否有可能何时知道自动缩放功能何时受到Google Cloud DataFlow上某些IAM配额的限制?我发现我的许多任务,无论大小,开机时间等等,都会增长,直到他们遇到15名工人。这可能是巧合,但我对此表示怀疑。我可以关闭自动缩放并将num worker设置为50而没有问题,因此我没有明确的配额限制。
配额似乎不是问题。
但即使是大型任务似乎总能击中15名工人。当我手动设置40个工作程序时,任务完成得更快,我知道这并不意味着自动缩放不起作用,但是很有用。
答案 0 :(得分:1)
自动缩放的默认最大工作数目前为15.如果您希望允许它扩展为更多工作者,可以使用--maxNumWorkers=
选项。