Question

我正在尝试使用mysql中的sqoop导入增量加载。以下是我在unix控制台上运行的命令：

    sqoop job \
    --create sample_job --import -Dmapred.job.queue.name=realtime \
    --connect jdbc:mysql://hostname/db?zeroDateTimeBehavior=convertToNull \
    --driver com.mysql.jdbc.Driver \
    --table SAMPLE_TABLE -m 1 \
    --username tony \
    --password stark \
    --incremental lastmodified \
    --check-column ts \
    --last-value 2018-04-24 \
    --target-dir /some/tmp/location/ \
    --map-column-hive XYZ=tinyint \
    --null-string '\\N' \
    --null-non-string '\\N'

但是，得到一个典型的参数错误：

     /usr/hdp/2.6.4.0-91//sqoop/conf/sqoop-env.sh: line 21: HADOOP_CLASSPATH=${hcat -classpath}: bad substitution
     Warning: /usr/hdp/2.6.4.0-91/accumulo does not exist! Accumulo imports will fail.
     Please set $ACCUMULO_HOME to the root of your Accumulo installation.
     18/04/25 11:24:52 INFO sqoop.Sqoop: Running Sqoop version: 1.4.6.2.6.4.0-91
     18/04/25 11:24:52 ERROR tool.BaseSqoopTool: Error parsing arguments for job:

我发现很多可用的资源显示了如何使用命令运行导入，但是大多数源都没有显示确切的命令行并且传递了不正确的参数。我看到某个地方的参数顺序很重要，所以尝试切换顺序但没有工作。这是一个简单的问题，有人能告诉我正确的语法吗？

提前致谢。

Answer 1

我认为你的语法有问题。 https://sqoop.apache.org/docs/1.4.0-incubating/SqoopUserGuide.html#id1769640

$ sqoop job --create myjob -- import --connect jdbc:mysql://example.com/db \
--table mytable
enter code here

第一个参数之间有空格，在导入参数之前用空格替换命令。

sqoop job \
--create sample_job -- import -Dmapred.job.queue.name=realtime \
--connect jdbc:mysql://hostname/db?zeroDateTimeBehavior=convertToNull \
--driver com.mysql.jdbc.Driver \
--table SAMPLE_TABLE -m 1 \
--username tony \
--password stark \
--incremental lastmodified \
--check-column ts \
--last-value 2018-04-24 \
--target-dir /some/tmp/location/ \
--map-column-hive XYZ=tinyint \
--null-string '\\N' \
--null-non-string '\\N'

Answer 2

现在正在运作。需要在exec期间传递参数，顺序应如下：

sqoop job -Dmapred.job.queue.name=realtime --meta-connect "jdbc:hsqldb:file:/tmp/sqoop-meta.db;shutdown=true" -exec

Sqoop增量导入参数顺序？

2 个答案: