通过猪中使用的java jar调用程序

时间:2013-08-23 10:14:35

标签: hadoop apache-pig

我有一个调用某些控制台程序的jar文件。 我在Pig中使用这个jar文件。 我的问题是它在本地模式下工作正常但是当我进入Hadoop模式时它失败了。 我还在所有节点上对bashrc进行了更改,但始终发生类似的错误。 那么如何解决这个问题呢。

1 个答案:

答案 0 :(得分:0)

经过几次试验,我得到了答案。 首先将文件复制到hdfs的tmp文件夹中,例如 hadoop fs -put YourModule / tmp / 然后在pig脚本中添加语句如下: SET mapred.cache.files / tmp / YourModule#ModuleName; SET mapred.create.symlink yes;

然后在jar文件中,您可以通过使用路径访问这些文件夹中的文件: 模块名/文件名

就是这样。 它在hadoop中的工作方式类似于Local模式。