在eventTime中触发结构化的流式SQL窗口

时间:2019-05-23 13:19:01

标签: sql scala apache-spark bigdata spark-streaming

对于这个完全相同的查询,等效的String SQL查询将如何:

val streamingWindowDF = 
  streamingInputDF
    .groupBy(
      $"sessiondId",
      window($"time", "10 seconds","2 seconds"))

我想做同样的事情,但使用SQL字符串类似:

val result = spark.sql(".....")

我想做的是一个滑动窗口。

谢谢。

1 个答案:

答案 0 :(得分:1)

windowvalid SQL function,可以原样使用,即

SELECT COUNT(*)
FROM df
GROUP BY  window(time, '10 seconds', '2 seconds')

或简单的SELECT

SELECT *, window(time, '10 seconds', '2 seconds') AS w
FROM df