Spark最大事件时间窗口

时间:2018-11-17 10:14:27

标签: apache-spark bigdata spark-streaming iot

Spark Event Time Streaming是否可以并行容纳的窗口数有限制?

通常,我认为这取决于每个执行器的可用内存以及您在窗口中使用的数据量,但是主机中可能存在一些元数据开销,用于保存有关所有窗口存在的引用。

有人知道关于此的文章或官方声明吗?

让我们假设我想创建几百万个仅包含120行之类的小数据的窗口。这会导致巨大的元数据开销,从而可能会干扰某些限制吗?

0 个答案:

没有答案