Question

我在Kafka connect上使用Kafka的1.1版本，并且遇到了我不理解的错误。如果我这样设置，我将无法连接到HDFS：

hdfs.url": "/user/myuser/mydirectory"

或类似的方法（请注意，没有端口）：

hdfs.url": "hdfs://hostname/user/myuser/mydirectory"

我遇到此错误：

state: "FAILED",
trace: "java.lang.NullPointerException 
   at io.confluent.connect.hdfs.HdfsSinkTask.close(HdfsSinkTask.java:135) 
   at org.apache.kafka.connect.runtime.WorkerSinkTask.commitOffsets(WorkerSinkTask.java:377) 
   at org.apache.kafka.connect.runtime.WorkerSinkTask.closePartitions(WorkerSinkTask.java:576) 
   at org.apache.kafka.connect.runtime.WorkerSinkTask.execute(WorkerSinkTask.java:177) 
   at org.apache.kafka.connect.runtime.WorkerTask.doRun(WorkerTask.java:170) 
   at org.apache.kafka.connect.runtime.WorkerTask.run(WorkerTask.java:214) 
   at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:511)
   at java.util.concurrent.FutureTask.run(FutureTask.java:266) 
   at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149
   at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)
   at java.lang.Thread.run(Thread.java:748)

正常吗？我错过了文档中的某些内容吗？请问你能帮帮我吗？我找不到答案，也没有办法无差别地呼叫我的名称节点。

Answer 1

解决方案是我的配置中缺少“ hadoop.conf.dir”。

我必须添加它，因为我正在以高可用性模式使用HDFS。

Kafka连接HDFS Sink连接器错误

1 个答案: