Question

原始问题（下面的长版）。简短版本：使用ruby脚本运行hadoop流作为mapper并在所有集群节点上安装rvm不起作用。因为hadoop启动的shell不知道ruby（并且没有正确加载rvm）。为什么呢？

我想使用wukong作为gem来为hadoop创建map / reduce作业。问题是hadoop无法加载wukong gem（即找不到它）。 Hadoop工作向我显示以下错误：

/usr/local/rvm/rubies/ruby-1.9.3-p194/lib/ruby/site_ruby/1.9.1/rubygems/custom_require.rb:36:in `require': cannot load such file -- wukong (LoadError)
from /usr/local/rvm/rubies/ruby-1.9.3-p194/lib/ruby/site_ruby/1.9.1/rubygems/custom_require.rb:36:in `require'
from /tmp/mapr-hadoop/mapred/local/taskTracker/admin/jobcache/job_201207061102_0068/attempt_201207061102_0068_m_000000_0/work/./test.rb:6:in `<main>'
java.lang.RuntimeException: PipeMapRed.waitOutputThreads(): subprocess failed with code 1
at org.apache.hadoop.streaming.PipeMapRed.waitOutputThreads(PipeMapRed.java:362)
at org.apache.hadoop.streaming.PipeMapRed.mapRedFinished(PipeMapRed.java:572)
at org.apache.hadoop.streaming.PipeMapper.close(PipeMapper.java:136)
at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java:57)
at org.apache.hadoop.streaming.PipeMapRunner.run(PipeMapRunner.java:34)
at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:394)
at org.apache.hadoop.mapred.MapTask.run(MapTask.java:327)
at org.apache.hadoop.mapred.Child$4.run(Child.java:270)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:396)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1109)
at org.apache.hadoop.mapred.Child.main(Child.java:264)

但是，cat somefile | ./test.rb --map可以按预期在所有群集计算机上运行。我还在我的测试文件中包含了一些调试打印，我可以通过hadoop日志检索它。运行时

$stderr.puts `gem list`

它会产生所有宝石，包括wukong，也是

$stderr.puts $LOAD_PATH.inspect

产生的检查路径与打印运行本地（不是由hadoop启动）ruby脚本的$LOAD_PATH时的路径相同。

为什么hadoop启动ruby脚本找不到明确安装且工作正常的gem ？

hadoop发布为：

hadoop jar /opt/mapr/hadoop/hadoop-0.20.2/contrib/streaming/hadoop-0.20.2-dev-streaming.jar \
-libjars /opt/hypertable/current/lib/java/hypertable-0.9.5.6.jar,/opt/hypertable/current/lib/java/libthrift-0.8.0.jar \
-Dmapred.child.env="PATH=$PATH:/usr/local/rvm/bin/rvm" \
-mapper '/home/admin/wukong/test.rb --map' \
-file /home/admin/wukong/test.rb \
-reducer /bin/cat \
-input /test/test.rb \
-output /test/something2

Answer 1

你正在使用红宝石吗？

确保您运行：

rvm use 1.9.3

和echo $GEM_PATH应该返回类似的内容：

/usr/local/rvm/gems/ruby-1.9.3-p194:/usr/local/rvm/gems/ruby-1.9.3-p194@global

如果不是，则表示use命令无效。

Answer 2

不知何故，我设法通过重新启动群集中的所有计算机来使其工作。我认为rvm来源不正确。虽然需要重新启动，但仍然坚持不懈。

Answer 3

看看这里：http://zachmoshe.com/2015/02/23/use-ruby-gems-with-hadoop-streaming.html

它展示了如何使用Hadoop Streaming运行带有宝石的ruby映射器。

我知道你问过它已经3年了，但也许它会帮助别人......

使用RVM的Hadoop Streaming找不到Gem

3 个答案: