Question

尝试从Apache Hadoop执行示例地图缩减程序。地图缩小作业运行时，下面有例外。试过hdfs dfs -chmod 777 /，但没有解决问题。

15/03/10 13:13:10 WARN mapreduce.JobSubmitter: Hadoop command-line option parsing not performed. Implement the Tool interface and execute your application with
ToolRunner to remedy this.
15/03/10 13:13:10 WARN mapreduce.JobSubmitter: No job jar file set.  User classes may not be found. See Job or Job#setJar(String).
15/03/10 13:13:10 INFO input.FileInputFormat: Total input paths to process : 2
15/03/10 13:13:11 INFO mapreduce.JobSubmitter: number of splits:2
15/03/10 13:13:11 INFO mapreduce.JobSubmitter: Submitting tokens for job: job_1425973278169_0001
15/03/10 13:13:12 INFO mapred.YARNRunner: Job jar is not present. Not adding any jar to the list of resources.
15/03/10 13:13:12 INFO impl.YarnClientImpl: Submitted application application_1425973278169_0001
15/03/10 13:13:12 INFO mapreduce.Job: The url to track the job: http://B2ML10803:8088/proxy/application_1425973278169_0001/
15/03/10 13:13:12 INFO mapreduce.Job: Running job: job_1425973278169_0001
15/03/10 13:13:18 INFO mapreduce.Job: Job job_1425973278169_0001 running in uber mode : false
15/03/10 13:13:18 INFO mapreduce.Job:  map 0% reduce 0%
15/03/10 13:13:18 INFO mapreduce.Job: Job job_1425973278169_0001 failed with state FAILED due to: Application application_1425973278169_0001 failed 2 times due
to AM Container for appattempt_1425973278169_0001_000002 exited with  exitCode: 1
For more detailed output, check application tracking page:http://B2ML10803:8088/proxy/application_1425973278169_0001/Then, click on links to logs of each attemp
t.
Diagnostics: Exception from container-launch.
Container id: container_1425973278169_0001_02_000001
Exit code: 1
Exception message: CreateSymbolicLink error (1314): A required privilege is not held by the client.

堆栈追踪：

ExitCodeException exitCode=1: CreateSymbolicLink error (1314): A required privilege is not held by the client.

    at org.apache.hadoop.util.Shell.runCommand(Shell.java:538)
    at org.apache.hadoop.util.Shell.run(Shell.java:455)
    at org.apache.hadoop.util.Shell$ShellCommandExecutor.execute(Shell.java:715)
    at org.apache.hadoop.yarn.server.nodemanager.DefaultContainerExecutor.launchContainer(DefaultContainerExecutor.java:211)
    at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:302)
    at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:82)
    at java.util.concurrent.FutureTask.run(FutureTask.java:266)
    at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142)
    at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617)
    at java.lang.Thread.run(Thread.java:745)

Shell输出：

1 file(s) moved.

Container exited with a non-zero exit code 1
Failing this attempt. Failing the application.
15/03/10 13:13:18 INFO mapreduce.Job: Counters: 0

Answer 1

Win 8.1 + hadoop 2.7.0（从源代码构建）

以管理员模式运行命令提示符
执行etc \ hadoop \ hadoop-env.cmd
运行sbin \ start-dfs.cmd
运行sbin \ start-yarn.cmd
现在尝试运行你的工作

Answer 2

我最近遇到了完全相同的问题。我尝试重新格式化namenode，但它没有工作，我相信这不能永久解决问题。通过@aoetalks的参考，我通过查看本地组策略在Windows Server 2012 R2上解决了这个问题。

总之，请尝试以下步骤：

打开本地组策略（按Win+R打开＆＃34;运行...＆＃34; - 输入gpedit.msc）
展开＆＃34;计算机配置＆＃34; - ＆＃34; Windows设置＆＃34; - ＆＃34;安全设置＆＃34; - ＆＃34;本地政策＆＃34; - ＆＃34;用户权利分配＆＃34;
找到＆＃34;创建符号链接＆＃34;在右侧，查看您的用户是否包含在内。如果没有，请将您的用户添加到其中。
这将在下次登录后生效，因此请注销并登录。

如果这仍然不起作用，也许是因为您使用的是管理员帐户。在这种情况下，您必须在同一目录中禁用User Account Control: Run all administrators in Admin Approval Mode（即组策略中的用户权限分配）然后重新启动计算机以使其生效。

参考：https://superuser.com/questions/104845/permission-to-make-symbolic-links-in-windows-7

Answer 3

我不知道错误的原因，但重新格式化NameNode 可以帮助我在 Windows 8 中解决它。

删除所有旧日志。清除文件夹 C：\ hadoop \ logs 和 C：\ hadoop \ logs \ userlogs
清除文件夹 C：\ hadoop \ data \ dfs \ datanode 和 C：\ hadoop \ data \ dfs \ namenode 。
在管理员模式下使用调用命令重新格式化NameNode：
c:\hadoop\bin>hdfs namenode -format

Answer 4

有关解决方案，请参阅this，有关说明，请参见this。基本上，符号链接可能存在安全风险，UAC的设计会阻止用户（甚至是属于Administrators组的用户）创建符号链接，除非他们在提升模式下运行。

简而言之，请尝试重新格式化您的名称节点，并从提升的命令提示符启动Hadoop和所有Hadoop作业。

Answer 5

我遇到了和你一样的问题。我们通过检查java环境解决了这个问题。

选中java version和javac version。
确保群集中的每台计算机都具有相同的java环境。

Answer 6

在Windows中，将hdfs-site.xml中的配置更改为

<configuration>
   <property>
       <name>dfs.replication</name>
       <value>1</value>
   </property>
   <property>
       <name>dfs.namenode.name.dir</name>
       <value>file:///C:/hadoop-2.7.2/data/namenode</value>
   </property>
   <property>
       <name>dfs.datanode.data.dir</name>
       <value>file:///C:/hadoop-2.7.2/data/datanode</value>
   </property>
</configuration>

以管理员模式打开cmd并运行命令：-

stop-all.cmd
hdfs namenode –format
start-all.cmd

，然后在管理员模式下运行最终的jar hadoop jar C：\ Hadoop_Demo \ wordCount \ target \ wordCount-0.0.1-SNAPSHOT.jar文件：/// C：/Hadoop/input.txt文件：/// C：/ Hadoop / output

Answer 7

我解决了同样的问题。当您运行“命令提示符”时，让我们“以管理员身份运行”。

HDFS写入导致＆＃34; CreateSymbolicLink错误（1314）：客户端不保留所需的权限。＆＃34;

7 个答案: