关于flink任务管理器和任务槽的核心分配

时间:2020-08-23 04:59:47

标签: apache-flink

我使用以下命令启动flink yarn session。

yarn-session.sh -jm 4096 -tm 4096 -n 4 -s 2

使用上述命令,这意味着将启动4个任务管理器(由于每个任务管理器都是一个纱线容器,因此也将启动4个纱线容器),并为每个任务管理器分配2个插槽。

由于一个任务管理器是一个纱线容器,这意味着每个任务管理器仅分配了一个核心,但是我为每个任务管理器指定了2个插槽,这意味着这两个插槽将仅共享一个核心?

我以为每个插槽应该至少占据一个核心?

不确定我是否正确理解或错过了什么。

1 个答案:

答案 0 :(得分:1)

已建议将“每个插槽一个核心”作为默认起点,但是不应将其视为规则。您可以自由地做任何您想做的事。如果每个插槽包含多个计算密集型任务,则为每个插槽分配多个内核是有意义的。另一方面,如果每个插槽的工作量很少,并且将大部分时间都用在I / O上,那么分数内核就足够了。