使用Redis流和Spring数据获取待处理消息

时间:2020-07-07 09:22:30

标签: kotlin redis spring-data-redis redis-streams

我在Spring Boot应用程序中使用Redis Streams。在调度程序中,我通常要获取所有待处理的消息,并检查它们已经处理了多长时间,并在必要时重新触发它们。

我的问题是现在我可以获取待处理的消息,但是我不确定如何获取有效载荷。

我的第一种方法是使用pendingrange操作。不利之处是range不会增加totalDeliveryCount-因此我不能使用范围方法

val pendingMessages = stringRedisTemplate.opsForStream<String, Any>().pending(redisStreamName, Consumer.from(redisConsumerGroup, instanceName))
return pendingMessages.filter { pendingMessage ->
    if (pendingMessage.totalDeliveryCount < maxDeliveryAttempts && pendingMessage.elapsedTimeSinceLastDelivery > Duration.ofMillis(pendingTimeout.toLong())) {
            return@filter true
    } else {
        ...
        return@filter false
    }
}.map { //map from PendingMessage::class to a MapRecord with the content
    val map = stringRedisTemplate.opsForStream().range(redisStreamName, Range.just(it.idAsString)) // does not increase totalDeliveryCount !!!
    if (map != null && map.size > 0) { 
        return@map map[0]
    } else {
        return@map null
    }
}.filterNotNull().toList()

我的第二种方法使用了pendingread操作。对于读取操作,我可以使用当前ID指定一个偏移量。问题是我只能得到比指定的ID高的ID。

val pendingMessages = stringRedisTemplate.opsForStream().pending(redisStreamName, Consumer.from(redisConsumerGroup, instanceName))
return pendingMessages.filter { pendingMessage ->
    if (pendingMessage.totalDeliveryCount < maxDeliveryAttempts && pendingMessage.elapsedTimeSinceLastDelivery > Duration.ofMillis(pendingTimeout.toLong())) {
            return@filter true
    } else {
        ...
        return@filter false
    }
}.map { //map from PendingMessage::class to a MapRecord with the content
    val map = stringRedisTemplate.opsForStream<String, Any>()
            .read(it.consumer, StreamReadOptions.empty().count(1),
                    StreamOffset.create(redisStreamName, ReadOffset.from(it.id)))
    if (map != null && map.size > 0 && map[0].id.value == it.idAsString) { // map[0].id.value == it.idAsString does not match
        return@map map[0]
    } else {
        return@map null
    }
}.filterNotNull().toList()

因此,当我使用ReadOffset.from('1234-0')时,不会收到1234-0的消息,但会收到该消息之后的所有内容。有没有办法获取确切的消息并同时尊重totalDeliveryCountelapsedTimeSinceLastDelivery的统计信息?

我正在使用spring-data-redis 2.3.1.RELEASE

1 个答案:

答案 0 :(得分:0)

我现在正在使用以下解决方法,这对大多数情况应该是好的:

return if (id.sequence > 0) {
            "${id.timestamp}-${id.sequence - 1}"
        } else {
            "${id.timestamp - 1}-99999"
        }

它依赖于这样一个事实,即每毫秒插入的消息不超过99999条。