我使用Spring进行依赖注入,我有一个恰好是Kafka生产者服务的bean,它通过属性文件得到像zookeeper服务器等的配置。
import kafka.utils.ZKStringSerializer$;
import kafka.utils.ZkUtils;
import org.I0Itec.zkclient.ZkClient;
import org.I0Itec.zkclient.ZkConnection;
import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.ProducerConfig;
import org.apache.kafka.clients.producer.ProducerRecord;
import org.springframework.beans.factory.InitializingBean;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
import java.util.Properties;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.TimeoutException;
@Service
public class KafkaProducerService implements InitializingBean {
@Autowired
private Properties properties;
private KafkaProducer<String, String> producer;
private ZkUtils zkUtils;
public KafkaProducerService() {
}
@Override
public void afterPropertiesSet() throws Exception {
Properties kafkaProducerProperties = new Properties();
kafkaProducerProperties.setProperty(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, "org.apache.kafka.common.serialization.StringSerializer");
kafkaProducerProperties.setProperty(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, "org.apache.kafka.common.serialization.StringSerializer");
kafkaProducerProperties.setProperty(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, properties.getProperty("kafka.bootstrap.servers"));
kafkaProducerProperties.setProperty(ProducerConfig.REQUEST_TIMEOUT_MS_CONFIG, properties.getProperty("kafka.producer.timeout", "3000"));
kafkaProducerProperties.setProperty(ProducerConfig.RECONNECT_BACKOFF_MS_CONFIG, properties.getProperty("kafka.reconnect.backoff.ms", "1000"));
kafkaProducerProperties.setProperty(ProducerConfig.MAX_BLOCK_MS_CONFIG, properties.getProperty("kafka.producer.timeout", "3000"));
kafkaProducerProperties.setProperty(ProducerConfig.ACKS_CONFIG, "1");
String zookeeperEndpoint = properties.get("zookeeper.connect") + ":2181";
this.producer = new KafkaProducer<>(kafkaProducerProperties);
final ZkClient zkClient = new ZkClient(zookeeperEndpoint, 10000, 10000, ZKStringSerializer$.MODULE$);
zkUtils = new ZkUtils(zkClient, new ZkConnection(zookeeperEndpoint), false);
}
public boolean publishMessage(final String message, final String topic) {
try {
producer.send(new ProducerRecord<>(topic, message))
.get(3, TimeUnit.SECONDS);
return true;
} catch (InterruptedException | ExecutionException | TimeoutException e) {
return false;
}
}
public void tearDown() {
this.producer.close();
}
}
我正在使用此服务将其自动装配到其他服务中,并且在运行应用程序并使用它时效果很好。我有额外的弹簧上下文用于加载嵌入式Kafka的测试。
<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xmlns:tx="http://www.springframework.org/schema/tx"
xmlns:context="http://www.springframework.org/schema/context"
xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-4.1.xsd
http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-4.1.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-3.0.xsd">
<context:annotation-config/>
<context:component-scan base-package="my.project.main"/>
<context:property-placeholder location="classpath*:my_properties.properties"/>
<bean id="embeddedKafka" class="my.project.main.EmbeddedKafka"
init-method="setupEmbeddedKafkaWithZookeeper"
destroy-method="tearDown"/>
<bean id="properties" class="org.springframework.beans.factory.config.PropertiesFactoryBean">
<property name="properties">
<props>
<prop key="zookeeper.connect">localhost</prop>
<prop key="kafka.bootstrap.servers">localhost:9092</prop>
<prop key="acks">1</prop>
<prop key="kafka.producer.timeout">5000</prop>
<prop key="kafka.reconnect.backoff.ms">30000</prop>
</props>
</property>
</bean>
</beans>
每当我运行测试时,kafka sevrice生成器应该使用通过EmbeddedKafka bean加载的内存kafka。问题在于,在大多数情况下,嵌入式kafka需要花费太多时间才能启动,因此kafka生成器超时并且无法通过Spring实例化。是否有任何机制使KafkaProducerService bean“等待”直到EmbeddedKafka bean被实例化?
答案 0 :(得分:1)
有很多方法可以让制片人等待。但我想你不想永远等待。如果嵌入式kafka配置不正确或发生其他问题以致测试没有永久挂起,那么任何等待都会有一些超时(让我们说X秒)。
你可以将生产者的超时设置为X秒,这样就可以了。
如果你做想要永远等待我。
你的主要目标是在第一次访问zookeeper / kafka之前确保kafka已启动。
如果在spring上下文初始化期间没有发生这种情况(你可以在堆栈跟踪中检查这是否超时),那么你唯一需要确保的是嵌入式kafka init是同步完成的。
例如,你可以创建一个新的bean来调用setupEmbeddedKafkaWithZookeeper
并等到kafka启动。
如果在spring上下文初始化期间访问zookeeper / kafka,那么它会更棘手。你需要
为了等待kafka,您可以为KafkaProducerService
创建一个包装器,它将等待所有访问kafka / zookeeper`的方法中的kafka启动。
或者,您可以通过创建自己的运行器继承(或包装)spring runner来初始化嵌入式kafka,它将在创建春天上下文之前进行初始化。