输入指标未显示在spark ui上

时间:2018-06-22 03:36:42

标签: apache-spark

我有一个简单的火花代码:

 test("SparkSQLTest") {
    val spark = SparkSession.builder().master(s"local[1]").config("spark.sql.cbo.enabled", true).appName("SparkSQLTest").enableHiveSupport().getOrCreate()
    import spark.implicits._
    spark.range(10000).mapPartitions(idx => {
      val metrics = TaskContext.get().taskMetrics().inputMetrics
      val buffer = scala.collection.mutable.ArrayBuffer[Long]()
      while (idx.hasNext) {
        metrics.incRecordsRead(1)
        buffer += idx.next()
      }
      buffer.toIterator
    }).count


    scala.io.StdIn.readLine()


  }

我要记录已在Web ui上处理并显示的记录数。

但是,当应用程序完成后,我没有在spark ui上看到指标。

有人可以帮忙看看吗?谢谢!

0 个答案:

没有答案