运行Hadoop Pi示例

时间:2013-10-16 20:53:52

标签: java hadoop

我需要一些帮助在Windows中运行Hadoop Pi示例。我已经在Windows上成功设置了Hadoop,并且可以看到所有NameNode,SecondaryNameNode,JobTracker和TaskTracker都在运行。我也可以点击网址:

http://localhost:50070/, http://localhost:50030 and http://localhost:50090/.

但是,当我尝试运行内置的Pi示例时,我遇到了异常。

$ hadoop jar hadoop/hadoop-examples-1.2.1.jar pi 4 100
Not a valid JAR: C:\cygwin\home\chandeln\hadoop\hadoop-examples-1.2.1.jar

我也在路径中设置了hadoop和java。

$ java -version
java version "1.7.0_40"
Java(TM) SE Runtime Environment (build 1.7.0_40-b43)
Java HotSpot(TM) 64-Bit Server VM (build 24.0-b56, mixed mode)

$ hadoop version
Hadoop 1.2.1
Subversion https://svn.apache.org/repos/asf/hadoop/common/branches/branch-1.2 -r 1503152
Compiled by mattf on Mon Jul 22 15:23:09 PDT 2013
From source with checksum 6923c86528809c4e7e6f493b6b413a9a
This command was run using /C:/cygwin/usr/local/hadoop/hadoop-core-1.2.1.jar

我的.bashrc看起来像这样:

export JAVA_HOME=/cygdrive/c/Java/jdk1.7.0_40
export HADOOP_PREFIX=/cygdrive/c/usr/local/hadoop
export PATH=$PATH:$HADOOP_PREFIX/bin

有人可以对此有所了解吗?

3 个答案:

答案 0 :(得分:1)

即使Hadoop是用Java编写的,它在Windows上也不能很好地运行。如果你真的想在最短的时间内启动并运行Hadoop,我建议使用Linux。您可以下载免费的VMWare Player应用程序,并在Windows上安装它。然后,在Ubuntu上下载最新版本,并使用VMWare Player将其安装为虚拟机。然后,您可以将您的Ubuntu虚拟机用于install a single node cluster of Hadoop

如果这看起来工作太多,请打开Amazon AWS帐户,然后找pre-configured Hadoop machines进行操作。

答案 1 :(得分:0)

这很可能是由于您的Java版本与Jar不匹配。试试jdk1.6。

(看起来你正在玩YDN Hadoop?)

答案 2 :(得分:0)

试 $ yarn jar hadoop / hadoop-examples-1.2.1.jar pi 4 100