是否有任何方法接受目录路径并将所有jar文件添加到map-reduce作业的类路径中?
我所知道的是DistributedCache.addFileToClassPath(file, conf)
,但似乎这只适用于单个文件。在我的情况下,我在一个目录中需要所有JAR文件,我希望所有这些都在我的MR工作的类路径中。
此外,我希望通过我的java程序完成此操作,我在其中使用hadoop API提交作业,而不是通过命令提示符提交。
答案 0 :(得分:0)
您可以使用“-libjars”为hadoop提供所有库。您只需要在执行命令中添加它和库的位置