当前设置
mysql connector version-mysql-connector-java-5.1.13
sqoop version-sqoop-1.4.6
hadoop version-hadoop-2.7.3
java version- Jdk-8u171-linux-x64/jdk1.8.0_171(oracle JDK)
OS-Ubundu
注意:也尝试使用openjdk,此版本也存在同样的问题 Sqoop命令:bin / sqoop import -connect jdbc:mysql:// localhost:3306 / testDb -username root -password root --table student --target -dir / user / hadoop / student -m 1 --driver com.mysql .jdbc.Driver
答案 0 :(得分:0)
尝试增加映射器并行性(在命令中它是-m 1
参数)。将其设置为更高的值,因此每个映射器将处理更少的数据并且需要更少的内存
如果映射器的数量> 1,则还需要--split-by
。
查看有关拆分列here的建议。
优选均匀分布的整数列。