我有一个集群:
taskmanager.numberOfTaskSlots: 1
如果我使用Flink PubSub源在作业上设置default.parallelism: 4
,则在启动“作业群集” / taskmanager时始终出现此错误:
[analytics-job-cluster-7bd4586ccb-s5hmp作业] 2019-05-01 16:22:30,888信息org.apache.flink.runtime.checkpoint.CheckpointCoordinator-检查点触发任务来源:自定义来源->处理->作业00000000000000000000000000000000000000的时间戳/水印-> app_events(1/4)不在RUNNING状态,而是SCHEDULED。检查点异常终止。
但是,如果我将同一份工作指向一堆文件,它会完美地工作。这是什么意思?
答案 0 :(得分:1)
因此,问题是您需要numberOfTaskSlots
基本上等于您的并行度。因此,在这种情况下,如果您只有1个TaskManager和1个TaskSlot,则Flink将无法正确启动作业,因为没有足够的插槽供其使用。如果您将给定TaskManager的numberOfTaskSlots
设置为等于并行度,那么它应该可以正常工作。