Apache Flink:如何在摄取时间模式下获取事件的时间戳?

时间:2018-03-05 10:11:19

标签: stream apache-flink flink-streaming

我想知道是否可以通过使用Flink的摄取时间模式来获取记录的时间戳。考虑以下flink代码示例(https://github.com/apache/flink/blob/master/flink-examples/flink-examples-streaming/src/main/scala/org/apache/flink/streaming/scala/examples/join/WindowJoinSampleData.scala),

val env = StreamExecutionEnvironment.getExecutionEnvironment
env.setStreamTimeCharacteristic(TimeCharacteristic.IngestionTime)

val grades = WindowJoinSampleData.getGradeSource(env, rate)
val salaries = WindowJoinSampleData.getSalarySource(env, rate)

val joined = joinStreams(grades, salaries, windowSize)

...
case class Grade(name: String, level: Int) 
case class Salary(name: String, salary: Int)

默认情况下,等级和工资都不包含时间戳字段。但是,由于Flink允许使用“ingestionTime”将挂钟时间戳分配给数据流中的记录,是否可以在运行时获取此类时间戳?例如,以下是我要做的事情:

val oldDatastream = env.addSource...  // Using ingestion time
val newDatastream = oldDatastream.map{record =>   
    val ts = getRecordTimestamp(record)
    // do some thing with ts
    }

感谢您的帮助。

1 个答案:

答案 0 :(得分:3)

使用ProcessFunction为您提供Context,您可以使用它来获取元素的时间戳(无论是摄取,处理还是事件时间)。