Snowflake Kafka连接器配置问题

时间:2019-10-15 16:50:35

标签: apache-kafka apache-kafka-connect snowflake-data-warehouse

我正在按照本指南Snowflake Connector for Kafka

中的步骤进行操作

我收到的错误消息是

BadRequestException:连接器配置{.....}不包含连接器类型

我以

的身份运行命令
sh kafka_2.12-2.3.0/bin/connect-standalone.sh connect-standalone.properties snowflake_kafka_config.json

我的配置文件是

connect-standalone.properties

bootstrap.servers=localhost:9092
value.converter=org.apache.kafka.connect.json.JsonConverter
key.converter=org.apache.kafka.connect.json.JsonConverter

key.converter.schemas.enable=true
value.converter.schemas.enable=true

offset.storage.file.filename=/tmp/connect.offsets
offset.flush.interval.ms=10000

plugin.path=/Users/kafka_test/kafka

jar文件snowflake-kafka-connector-0.5.1.jar位于plugin.path

snowflake_kafka_config.json

{
  "name":"Kafka_Test",
  "Config":{
    "connector.class":"com.snowflake.kafka.connector.SnowflakeSinkConnector",
    "tasks.max":"8",
    "topics":"test",
    "snowflake.topic2table.map": "",
    "buffer.count.records":"1",
    "buffer.flush.time":"60",
    "buffer.size.bytes":"65536",
    "snowflake.url.name":"<url>",
    "snowflake.user.name":"<user_name>",
    "snowflake.private.key":"<private_key>",
    "snowflake.private.key.passphrase":"<pass_phrase>",
    "snowflake.database.name":"<db>",
    "snowflake.schema.name":"<schema>",
    "key.converter":"org.apache.kafka.connect.storage.StringConverter",
    "value.converter":"com.snowflake.kafka.connector.records.SnowflakeJsonConverter",
    "value.converter.schema.registry.url":"",
    "value.converter.basic.auth.credentials.source":"",
    "value.converter.basic.auth.user.info":""
  }
}

Kafka在本地运行,我有一个生产者和一个消费者,可以看到数据流。

1 个答案:

答案 0 :(得分:0)

这是我在Confluent community Slack上回答的相同问题,但我也将其张贴在这里供参考:-)


connect worker日志显示连接器JAR本身正在加载,因此“不包含连接器类型”是因为您的配置格式为fubar。

您以独立模式运行,但是传入了一个不会的JSON文件。我个人的观点始终是使用分布式的,即使只是单个节点也是如此。如果您需要回顾一下独立版和分布式版,请查看以下内容:http://rmoff.dev/ksldn19-kafka-connect

如果必须使用独立版本,则需要将连接器配置(snowflake_kafka_config.json)设置为如下所示的属性文件:

param1=argument1
param2=argument2

您可以在此处查看有效的JSON示例(如果使用分布式模式):https://github.com/confluentinc/demo-scene/blob/master/kafka-connect-zero-to-hero/demo_zero-to-hero-with-kafka-connect.adoc#stream-data-from-kafka-to-elasticsearch