Sqoop用3条记录将Oracle导入HDFS即可。全表失败

Question

我通过Sqoop将数据从Oracle导入HDFS，使用此命令可以使用3条记录：

./sqoop-import --connect <oracle-jdbc-string> --username <my-user-name> --password <my-password> --table SYS_GROUP --where "Sys_Group_ID < 4"

这项工作成功完成了3项记录。

但是当我想导入全表时，它失败了。 命令：

./sqoop-import --connect jdbc:oracle:thin:@10.58.71.164:1521:dbmss01 --username <my-user-name> --password <my-password> --table SYS_GROUP --fetch-size 100

日志：

15/12/04 02:32:19 INFO mapreduce.Job: Job job_1448967962138_0005 failed with state FAILED due to: Task failed task_1448967962138_0005_m_000003<br><br>
Job failed as tasks failed. failedMaps:1 failedReduces:0
15/12/04 02:32:19 INFO mapreduce.ImportJobBase: Transferred 378.3994 KB in 96.9962 seconds (3.9012 KB/sec)<br><br>
15/12/04 02:32:19 INFO mapreduce.ImportJobBase: Retrieved 1474 records.<br><br>
15/12/04 02:32:19 ERROR tool.ImportTool: Error during import: Import job failed!

Answer 1

尝试通过在末尾添加--m 5来增加映射器的数量

Answer 2

您正在查看错误的日志，您需要查看地图任务日志。转到资源管理器Web UI，导航到map reduce job，单击失败的map任务，看看问题是什么。