我使用了Spark Metrics Sink,包括csvSink,GraphiteSink和GangliaSink等,但只看到了与结构化流有关的三个度量值,例如inputRate,延迟,ProcessingRate。
我可以使用任何方法将度量标准(例如queryProgress度量标准)发送到度量标准接收器吗?
spark.streams.addListener(new StreamingQueryListener() {
override def onQueryStarted(queryStarted: QueryStartedEvent): Unit = {
println("Query started: " + queryStarted.id)
}
override def onQueryTerminated(queryTerminated: QueryTerminatedEvent): Unit = {
println("Query terminated: " + queryTerminated.id)
}
override def onQueryProgress(queryProgress: QueryProgressEvent): Unit = {
println("Query made progress: " + queryProgress.progress)
}
})
此外,我在纱簇模式下运行该应用程序,是否有什么好方法可以从驱动程序中“提取”指标?