我有一个简单的火花代码:
test("SparkSQLTest") {
val spark = SparkSession.builder().master(s"local[1]").config("spark.sql.cbo.enabled", true).appName("SparkSQLTest").enableHiveSupport().getOrCreate()
import spark.implicits._
spark.range(10000).mapPartitions(idx => {
val metrics = TaskContext.get().taskMetrics().inputMetrics
val buffer = scala.collection.mutable.ArrayBuffer[Long]()
while (idx.hasNext) {
metrics.incRecordsRead(1)
buffer += idx.next()
}
buffer.toIterator
}).count
scala.io.StdIn.readLine()
}
我要记录已在Web ui上处理并显示的记录数。
但是,当应用程序完成后,我没有在spark ui上看到指标。
有人可以帮忙看看吗?谢谢!