我目前正在尝试运行一个Sqoop Import作业,它是Spark JAR的一部分。
我正在使用com.cloudera.sqoop.SqoopOptions
和com.cloudera.sqoop.tool.ImportTool
来运行Sqoop作业。
代码看起来像这样:
import com.cloudera.sqoop.SqoopOptions
import com.cloudera.sqoop.tool.ImportTool
val options = new SqoopOptions
val sqoopImport = new ImportTool
options.setConnectString("..")
options.setTargetDir("..")
//and a bunch of other Sqoop related options
//and finally
val ret = sqoopImport.run(options)
但是他根本没有跑。该作业将在RUNNING
内停留数小时,并以ConnectionException
失败
连接异常失败:java.net.ConnectException:连接被拒绝;有关详细信息,请参阅:http://wiki.apache.org/hadoop/ConnectionRefused
编译器还会发出警告,SqoopOptions
和ImportTool
已被弃用。
我可以从spark-shell
我正在使用--master yarn-cluster --deploy-mode cluster
知道这里出了什么问题吗?我必须使用不同的API吗?