与多个文件大小表的Sqoop导入相关的查询

时间:2019-02-26 08:48:27

标签: sqoop rdbms

我这里有一个Sqoop场景。请对此提供意见。在我的RDBMS中,我有n个表,它们的大小分别为1 GB,500 MB,50 MB,10 MB等。在这种情况下,如何以一张照片或其他方式导入所有表?

1 个答案:

答案 0 :(得分:0)

Sqoop允许您一次提取一个表,也可以导入多个表。我不确定后者在性能方面的效果如何。

我认为只对少数几个表运行import all是没有意义的。但是,这只是我的意见。

这是您可以执行的操作。

sqoop import-all-tables \
    --connect jdbc:mysql://your_ip_address:3306/database_name \
    --driver com.mysql.jdbc.Driver \
    --username root \
    --warehouse-dir temp_dir_for_staging \
    --hive-import \
    --hive-overwrite \
    --hive-database hive_db \
    --exclude-tables list_of_tables_to_be_excluded 
    -m 1

在此处详细了解。

https://sqoop.apache.org/docs/1.4.0-incubating/SqoopUserGuide.html#id1766722