从Spark运行Sqoop时出现连接异常

时间:2017-08-24 15:04:54

标签: hadoop apache-spark sqoop

我目前正在尝试运行一个Sqoop Import作业,它是Spark JAR的一部分。

我正在使用com.cloudera.sqoop.SqoopOptionscom.cloudera.sqoop.tool.ImportTool来运行Sqoop作业。

代码看起来像这样:

import com.cloudera.sqoop.SqoopOptions
import com.cloudera.sqoop.tool.ImportTool

val options = new SqoopOptions
val sqoopImport  = new ImportTool

options.setConnectString("..")
options.setTargetDir("..")

//and a bunch of other Sqoop related options

//and finally 
val ret = sqoopImport.run(options)
但是他根本没有跑。该作业将在RUNNING内停留数小时,并以ConnectionException

失败
  

连接异常失败:java.net.ConnectException:连接被拒绝;有关详细信息,请参阅:http://wiki.apache.org/hadoop/ConnectionRefused

编译器还会发出警告,SqoopOptionsImportTool已被弃用。

我可以从spark-shell

完美地执行代码

我正在使用--master yarn-cluster --deploy-mode cluster

提交我的申请

知道这里出了什么问题吗?我必须使用不同的API吗?

0 个答案:

没有答案