Pig JobStats无法找到输出文件警告

时间:2014-06-05 13:51:34

标签: hadoop apache-pig piggybak

我正在使用Pig 0.11.1(在CDH4上使用MR1)和DBStorage将聚合结果输出到MySql2。作业似乎运行正常(成功完成并生成输出)但我收到以下警告。我做了一些研究,但无法理解警告意味着什么,或者它可能产生什么影响。任何信息都非常感谢。

  

2014-06-05 06:42:53,189 [main] INFO   org.apache.pig.tools.pigstats.JobStats - 使用输出大小阅读器:   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.FileBasedOutputSizeReader   2014-06-05 06:42:53,192 [主要]警告   org.apache.pig.tools.pigstats.JobStats - 无法找到输出   file java.io.FileNotFoundException:File   hdfs://ph-task201.mydomain.com:8020 / user / V5 / ByContentV2没有   存在。在   org.apache.hadoop.hdfs.DistributedFileSystem.listStatus(DistributedFileSystem.java:410)     在   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.FileBasedOutputSizeReader.getOutputSize(FileBasedOutputSizeReader.java:65)     在   org.apache.pig.tools.pigstats.JobStats.getOutputSize(JobStats.java:543)     在   org.apache.pig.tools.pigstats.JobStats.addOneOutputStats(JobStats.java:567)     在   org.apache.pig.tools.pigstats.JobStats.addOutputStatistics(JobStats.java:520)     在   org.apache.pig.tools.pigstats.PigStatsUtil.addSuccessJobStats(PigStatsUtil.java:356)     在   org.apache.pig.tools.pigstats.PigStatsUtil.accumulateStats(PigStatsUtil.java:257)     在   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher.launchPig(MapReduceLauncher.java:324)     在org.apache.pig.PigServer.launchPlan(PigServer.java:1266)at   org.apache.pig.PigServer.executeCompiledLogicalPlan(PigServer.java:1251)     在org.apache.pig.PigServer.execute(PigServer.java:1241)at   org.apache.pig.PigServer.executeBatch(PigServer.java:335)at   org.apache.pig.tools.grunt.GruntParser.executeBatch(GruntParser.java:137)     在   org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:198)     在   org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:170)     在org.apache.pig.tools.grunt.Grunt.exec(Grunt.java:84)at   org.apache.pig.Main.run(Main.java:604)at   org.apache.pig.Main.main(Main.java:157)at   sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)at   sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)     在   sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)     在java.lang.reflect.Method.invoke(Method.java:597)at   org.apache.hadoop.util.RunJar.main(RunJar.java:208)

1 个答案:

答案 0 :(得分:1)

警告表示您没有写入目录hdfs://ph-task201.mydomain.com:8020/user/V5/ByContentV2的写入权限。