我正在使用Pig 0.11.1(在CDH4上使用MR1)和DBStorage将聚合结果输出到MySql2。作业似乎运行正常(成功完成并生成输出)但我收到以下警告。我做了一些研究,但无法理解警告意味着什么,或者它可能产生什么影响。任何信息都非常感谢。
2014-06-05 06:42:53,189 [main] INFO org.apache.pig.tools.pigstats.JobStats - 使用输出大小阅读器: org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.FileBasedOutputSizeReader 2014-06-05 06:42:53,192 [主要]警告 org.apache.pig.tools.pigstats.JobStats - 无法找到输出 file java.io.FileNotFoundException:File hdfs://ph-task201.mydomain.com:8020 / user / V5 / ByContentV2没有 存在。在 org.apache.hadoop.hdfs.DistributedFileSystem.listStatus(DistributedFileSystem.java:410) 在 org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.FileBasedOutputSizeReader.getOutputSize(FileBasedOutputSizeReader.java:65) 在 org.apache.pig.tools.pigstats.JobStats.getOutputSize(JobStats.java:543) 在 org.apache.pig.tools.pigstats.JobStats.addOneOutputStats(JobStats.java:567) 在 org.apache.pig.tools.pigstats.JobStats.addOutputStatistics(JobStats.java:520) 在 org.apache.pig.tools.pigstats.PigStatsUtil.addSuccessJobStats(PigStatsUtil.java:356) 在 org.apache.pig.tools.pigstats.PigStatsUtil.accumulateStats(PigStatsUtil.java:257) 在 org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher.launchPig(MapReduceLauncher.java:324) 在org.apache.pig.PigServer.launchPlan(PigServer.java:1266)at org.apache.pig.PigServer.executeCompiledLogicalPlan(PigServer.java:1251) 在org.apache.pig.PigServer.execute(PigServer.java:1241)at org.apache.pig.PigServer.executeBatch(PigServer.java:335)at org.apache.pig.tools.grunt.GruntParser.executeBatch(GruntParser.java:137) 在 org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:198) 在 org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:170) 在org.apache.pig.tools.grunt.Grunt.exec(Grunt.java:84)at org.apache.pig.Main.run(Main.java:604)at org.apache.pig.Main.main(Main.java:157)at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39) 在 sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25) 在java.lang.reflect.Method.invoke(Method.java:597)at org.apache.hadoop.util.RunJar.main(RunJar.java:208)
答案 0 :(得分:1)
警告表示您没有写入目录hdfs://ph-task201.mydomain.com:8020/user/V5/ByContentV2
的写入权限。