我在.NET中有一个测试应用程序,该应用程序创建了kafka生产者,并使用Confluent客户端库向主题发送了一些消息。
出于某种原因,对第一条消息的确认总是迟到一秒钟,对后续消息的确认几乎立即到来。
这是正常现象还是我缺少某些配置?
如果我更新应用程序以将消息发送给一些主题,则发送给每个主题的第一条消息会延迟1秒发送。
static void Main()
{
var producer = new Producer<Null, string>(new ProducerConfig
{
BootstrapServers = "localhost:9092",
LingerMs = 100,
BatchNumMessages = 1,
});
for (var i = 0; i < 10; i++)
{
var start = DateTime.Now;
producer.ProduceAsync(
new TopicPartition("test-topic", Partition.Any), new Message<Null, string>
{
Value = $"hello kafka! #{i}"
}).Wait(2000);
var now = DateTime.Now;
Console.WriteLine($"{now:HH:mm:ss.fff} Message sent in {(now - start).TotalMilliseconds:N1}.");
}
producer.Dispose();
Console.ReadLine();
}
示例输出:
18:06:13.605 Message sent in 1,007.0.
18:06:13.607 Message sent in 1.0.
18:06:13.608 Message sent in 1.0.
18:06:13.609 Message sent in 1.0.
18:06:13.610 Message sent in 1.0.
18:06:13.611 Message sent in 1.0.
18:06:13.612 Message sent in 1.0.
18:06:13.613 Message sent in 1.0.
18:06:13.614 Message sent in 1.0.
18:06:13.615 Message sent in 1.0.
答案 0 :(得分:1)
在kafka请求日志中进行了更多挖掘之后,我发现在发送第一条消息之前,生成器针对所有主题发送了API_VERSIONS和METADATA请求。 1秒后,它将再次发送METADATA请求,这次是针对生产者试图将消息推送到的特定主题。
将TopicMetadataRefreshIntervalMs设置为少于1秒可以减少第一条消息延迟。缺点是生产者开始更频繁地发送元数据请求。 令人惊讶的是,将TopicMetadataRefreshIntervalMs设置为超过一秒的时间不会延长延迟。
不确定这是错误还是功能。