Spark结构化流媒体指标UI仪表板

时间:2018-08-06 02:18:52

标签: apache-spark graphite spark-structured-streaming

我使用了Spark Metrics Sink,包括csvSink,GraphiteSink和GangliaSink等,但只看到了与结构化流有关的三个度量值,例如inputRate,延迟,ProcessingRate。

我可以使用任何方法将度量标准(例如queryProgress度量标准)发送到度量标准接收器吗?

spark.streams.addListener(new StreamingQueryListener() {
  override def onQueryStarted(queryStarted: QueryStartedEvent): Unit = {
    println("Query started: " + queryStarted.id)
  }
  override def onQueryTerminated(queryTerminated: QueryTerminatedEvent): Unit = {
    println("Query terminated: " + queryTerminated.id)
  }
  override def onQueryProgress(queryProgress: QueryProgressEvent): Unit = {
    println("Query made progress: " + queryProgress.progress)
  }
})

此外,我在纱簇模式下运行该应用程序,是否有什么好方法可以从驱动程序中“提取”指标?

0 个答案:

没有答案