Kafka连接FileStreamSink不完全一次

时间:2019-09-08 22:02:48

标签: apache-kafka apache-kafka-connect

我当时正在考虑将FileStreamSink Kafka Connect连接器用于某些存储工作,但是据我了解,使用此文件连接器时不可能只有一次语义(我可以将记录写入文件,然后在提交之前崩溃到卡夫卡)。 在使用另一种解决方案之前(例如s3接收器连接器提供EOS),我只想确保我是对的,而FileStreamSink不提供EOS。

有人可以确认吗?

1 个答案:

答案 0 :(得分:1)

那是正确的,事实并非如此。 FileStream连接器实际上仅是供演示/ PoC使用的,它们并非设计为具有人们可能期望的功能(例如EOS)的“生产级”。

正如您所说的S3 sink does support EOS