我正在尝试查询状态存储以在5分钟的窗口中获取数据。为此,我正在使用super()
。添加了REST查询数据。
我有tumbling window
,它使用stream A
中的数据并执行一些转换,并将键值输出到topic1
。
现在,在topic2
中,我正在对stream B
数据进行滚动窗口操作。当我运行代码并使用REST查询时,我在浏览器中看到空数据。我可以看到状态存储中的数据正在流动。
我观察到的是,我不是使用topic2
从topic2
获取数据,而是使用生产者类将数据注入到stream A
并能够从浏览器查询数据。但是当topic2
从topic2
获取数据时,我正在获取空数据。
这是我的stream A
代码:
stream A
这是我的public static void main(String[] args) {
final StreamsBuilder builder = new StreamsBuilder();
KStream<String, String> source = builder.stream("topic1");
KStream<String, String> output = source
.map((k,v)->
{
Map<String, Object> Fields = new LinkedHashMap<>();
Fields.put("FNAME","ABC");
Fields.put("LNAME","XYZ");
Map<String, Object> nFields = new LinkedHashMap<>();
nFields.put("ADDRESS1","HY");
nFields.put("ADDRESS2","BA");
nFields.put("addF",Fields);
Map<String, Object> eve = new LinkedHashMap<>();
eve.put("nFields", nFields);
Map<String, Object> fevent = new LinkedHashMap<>();
fevent.put("eve", eve);
LinkedHashMap<String, Object> newMap = new LinkedHashMap<>(fevent);
return new KeyValue<>("JAY1234",newMap.toString());
});
output.to("topic2");
代码(发生翻滚窗口操作的地方):
stream B
REST代码:
public static void main(String[] args) {
final StreamsBuilder builder = new StreamsBuilder();
KStream<String, String> eventStream = builder.stream("topic2");
eventStream.groupByKey()
.windowedBy(TimeWindows.of(300000))
.reduce((v1, v2) -> v1 + ";" + v2, Materialized.as("TumblingWindowPoc"));
final Topology topology = builder.build();
KafkaStreams streams = new KafkaStreams(topology, props);
streams.start();
}
这就是我的键值数据的样子:
@GET()
@Path("/{storeName}/{key}")
@Produces(MediaType.APPLICATION_JSON)
public List<KeyValue<String, String>> windowedByKey(@PathParam("storeName") final String storeName,
@PathParam("key") final String key) {
final ReadOnlyWindowStore<String, String> store = streams.store(storeName,
QueryableStoreTypes.<String, String>windowStore());
if (store == null) {
throw new NotFoundException(); }
long timeTo = System.currentTimeMillis();
long timeFrom = timeTo - 30000;
final WindowStoreIterator<String> results = store.fetch(key, timeFrom, timeTo);
final List<KeyValue<String,String>> windowResults = new ArrayList<>();
while (results.hasNext()) {
final KeyValue<Long, String> next = results.next();
windowResults.add(new KeyValue<String,String>(key + "@" + next.key, next.value));
}
return windowResults;
}
使用REST查询时,我应该能够获取数据。任何帮助是极大的赞赏。 谢谢!
答案 0 :(得分:0)
获取窗口timeFromFrom应该在窗口开始之前。因此,如果您想要最后30秒的数据,则可以减去获取时间的窗口持续时间,例如timeTo-30000-300000,然后从整个窗口数据中过滤出事件所需的事件