Flink 1.8,并行度> 1,源从不输出值

时间:2019-05-01 16:23:44

标签: apache-flink flink-streaming google-cloud-pubsub

我有一个集群:

  • 1个TaskManager
  • 1个StandaloneJob / JobManager
  • 配置:taskmanager.numberOfTaskSlots: 1

如果我使用Flink PubSub源在作业上设置default.parallelism: 4,则在启动“作业群集” / taskmanager时始终出现此错误:

  

[analytics-job-cluster-7bd4586ccb-s5hmp作业] 2019-05-01 16:22:30,888信息org.apache.flink.runtime.checkpoint.CheckpointCoordinator-检查点触发任务来源:自定义来源->处理->作业00000000000000000000000000000000000000的时间戳/水印-> app_events(1/4)不在RUNNING状态,而是SCHEDULED。检查点异常终止。

但是,如果我将同一份工作指向一堆文件,它会完美地工作。这是什么意思?

1 个答案:

答案 0 :(得分:1)

因此,问题是您需要numberOfTaskSlots基本上等于您的并行度。因此,在这种情况下,如果您只有1个TaskManager和1个TaskSlot,则Flink将无法正确启动作业,因为没有足够的插槽供其使用。如果您将给定TaskManager的numberOfTaskSlots设置为等于并行度,那么它应该可以正常工作。