Quarkus中有任何功能可以向Kafka发送消息

时间:2019-10-11 11:45:18

标签: java apache-kafka quarkus

我是kafka和quarkus的新手,我想在用户请求处理后向kafka主题发送消息。

我已经看过quarkus-quickstart中提供的kafka示例。我已经尝试过KafkaMessage

// when GET called send message to topic
@GET
@Produces(MediaType.TEXT_PLAIN)
public String hello() {
    generateSingle();
    return "hello";
}

@Outgoing("single-stations")
public KafkaMessage<Integer, String> generateSingle() {
    return KafkaMessage.of(1, "value");
};

但是我得到的结果是,连续向Kafka主题发送消息。

我想知道我的代码还有其他方法吗?

感谢帮助

1 个答案:

答案 0 :(得分:1)

有关此主题的文档目前并不完整(Quarkus 0.25.0)。我设法做到了,但是它进行了很多实验,我相信这是一种hack,希望可以在更高版本的Quarkus中加以弥补。

原理是@Outgoing方法必须产生受外部控制的。这可以通过在Flowable.create()方法中通过@PostConstruct创建流,并将发射器暴露给类成员来实现。 @Outgoing方法仅返回已构造的流。

以下组件公开了一个公共方法produce(String message),该方法会将文本消息发送给Kafka:

package ...

import java.util.UUID;

import javax.annotation.PostConstruct;
import javax.annotation.PreDestroy;
import javax.enterprise.context.ApplicationScoped;

import org.eclipse.microprofile.reactive.messaging.Incoming;
import org.eclipse.microprofile.reactive.messaging.Message;
import org.eclipse.microprofile.reactive.messaging.Outgoing;
import org.reactivestreams.Publisher;

import io.reactivex.BackpressureStrategy;
import io.reactivex.Flowable;
import io.reactivex.FlowableEmitter;
import io.smallrye.reactive.messaging.kafka.KafkaMessage;

@ApplicationScoped
public class KafkaController {

    private FlowableEmitter<KafkaMessage<String, String>> emitter;

    private Flowable<KafkaMessage<String, String>> outgoingStream;

    @PostConstruct
    void init() {
        outgoingStream = Flowable.create(emitter -> this.emitter = emitter, BackpressureStrategy.BUFFER);
    }

    public void produce(String message) {
        emitter.onNext(KafkaMessage.of(UUID.randomUUID().toString(), message));
    }

    @PreDestroy
    void dispose() {
        emitter.onComplete();
    }

    @Outgoing("internal")
    Publisher<KafkaMessage<String, String>> produceKafkaMessage() {
        return outgoingStream;
    }

    @Incoming("internal")
    @Outgoing("kafka-test")
    KafkaMessage<String, String> transform(Message<KafkaMessage<String, String>> arg) {
        return arg.getPayload();
    }
}

我在生成的Quarkus应用程序中创建了此类,如here所述:

mvn io.quarkus:quarkus-maven-plugin:0.25.0:create \
    -DprojectGroupId=org.acme \
    -DprojectArtifactId=kafka-quickstart \
    -Dextensions="kafka"

并按如下所示配置(application.properties):

kafka.bootstrap.servers=localhost:9092

mp.messaging.outgoing.kafka-test.connector=smallrye-kafka
mp.messaging.outgoing.kafka-test.topic=test
mp.messaging.outgoing.kafka-test.key.serializer=org.apache.kafka.common.serialization.StringSerializer
mp.messaging.outgoing.kafka-test.value.serializer=org.apache.kafka.common.serialization.StringSerializer

完全按照quickstart中的描述启动Kafka实例。您可以使用控制台监听器观看test主题,如下所示:

./bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 \
    --topic test --from-beginning --group test-console.consumer

要对其进行测试,可以创建一个JAX-RS资源来调用produce()

package ...

import javax.inject.Inject;
import javax.ws.rs.POST;
import javax.ws.rs.Path;

@Path("/control")
public class KafkaProduceControlResource {

    @Inject
    KafkaController kafkaController;

    @POST
    @Path("/produce")
    public void produceMessage(String message) {
        kafkaController.produce(message);
    }
}

按如下所示从命令行调用它,并观察控制台使用者:

curl -i -s -X POST -d "A text message" \
    http://localhost:8080/control/produce

黑客:似乎用produceKafkaMessage()注释@Outgoing("kafka-test")失败了,因为Quarkus无法理解KafkaMessage Message,并将其包装为一个,导致序列化错误。我通过"internal"流绕过了这一点。