Flink动态缩放

时间:2017-04-18 07:55:21

标签: apache-flink flink-streaming

我目前正在研究Flink的可扩展性。从1.2.0版开始,引入了动态重新缩放。我正在寻找扩展从Kafka源读取数据的长期工作。

有关动态重新缩放的问题。

  1. 要扩展我的flink应用程序,例如:添加新的任务管理器,我必须重新启动作业/纱线会话以使用新添加的资源吗?
  2. 我认为可以编写Yarn客户端来部署新的任务管理器并让它与作业管理器进行通信,这是否已经在现有的flink yarn客户端应用程序中可用?
  3. 请原谅我,如果这些问题太基础了,我确实已经完成了文件,而且我不得不承认我最近没有能够将这些概念与纱线上的一些测试部署完全结合起来。

1 个答案:

答案 0 :(得分:7)

目前,动态缩放表示能够更新运营商的并行性(Flink 1.2),无论是键控状态还是非键控状态。

  1. 要扩展我的flink应用程序,例如:添加新的任务管理器,我必须重新启动作业/纱线会话以使用新添加的资源吗? - ,必须首先停止作业,更新并行性,然后重新启动它。不必担心状态,Flink会处理它们,包括重新分配。

  2. 我认为可以编写Yarn客户端来部署新的任务管理器并让它与作业管理器交谈,这是否已经在现有的flink yarn客户端应用程序中可用? - ,你不能。此功能似乎将在未来添加。目前,我们不能这样做。