Pig Hcatalog无法从hive表

时间:2016-10-05 14:49:48

标签: hive apache-pig yarn hadoop2 hcatalog

grunt> table_load = load ‘test_table_one’ USING org.apache.hive.hcatalog.pig.HCatLoader();
grunt> dump table_load;
  

2016-10-05 17:25:43,498 [主要] INFO   org.apache.hadoop.conf.Configuration.deprecation - fs.default.name是   弃用。相反,使用fs.defaultFS 2016-10-05 17:25:43,430 [主要]   INFO hive.metastore - 尝试使用URI连接到Metastore   thrift:// localhost:9084 2016-10-05 17:25:43,431 [main] INFO   hive.metastore - 打开与Metastore的连接,当前   关联:1 2016-10-05 17:25:43,434 [主要] INFO hive.metastore -   连接到Metastore。 ... 2016-10-05 17:25:58,707 [主要]信息   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher    - HadoopJobId:job_1475669003352_0017 2016-10-05 17:25:58,707 [主要]   信息   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher    - 处理别名table_load 2016-10-05 17:25:58,707 [main] INFO   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher    - 详细地点:M:table_load [7,13] C:R:2016-10-05   17:25:58,716 [主要]信息   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher    - 0%完成2016-10-05 17:25:58,716 [主要]信息   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher    - 正在运行的工作是[job_1475669003352_0017] 2016-10-05 17:26:13,753   [主要]警告   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher    - 哎呀!有些工作失败了!如果你想要Pig,请指定-stop_on_failure   失败后立即停止。 2016-10-05 17:26:13,753 [主要] INFO   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher    - 工作job_1475669003352_0017失败了!停止运行所有依赖   工作2016-10-05 17:26:13,753 [主要]信息   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher    - 100%完成2016-10-05 17:26:13,882 [主要]错误   org.apache.pig.tools.pigstats.mapreduce.MRPigStatsUtil - 1 map reduce   工作失败了! 2016-10-05 17:26:13,883 [主要] INFO   org.apache.pig.tools.pigstats.mapreduce.SimplePigStats - 脚本   统计:

     

HadoopVersion PigVersion UserId StartedAt FinishedAt功能   2.6.0 0.15.0 hadoop 2016-10-05 17:25:57 2016-10-05 17:26:13未知

     

失败!

     

失败的工作:JobId别名功能消息输出   job_1475669003352_0017 table_load MAP_ONLY消息:作业失败!   HDFS:// myCluster中的/ tmp / temp81690062 / tmp2002161033,

     

输入:无法从“test_table_one”中读取数据

     

输出:无法生成结果   “HDFS:// myCluster中的/ tmp / temp81690062 / tmp2002161033”

     

计数器:写入的总记录数:0写入的总字节数:0可溢出   内存管理器泄漏计数:0主动溢出的行李总数:0总计   主动泄漏的记录:0

     

Job DAG:job_1475669003352_0017

     

2016-10-05 17:26:13,883 [主要] INFO   org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher    - 失败了! 2016-10-05 17:26:13,889 [主要]错误   org.apache.pig.tools.grunt.Grunt - 错误1066:无法打开迭代器   for alias table_load logfile中的详细信息:   /home/hadoop/pig_1475674706670.log

你能帮助我找到为什么会发生这种情况。?

2 个答案:

答案 0 :(得分:0)

使用SELECT characters.name Name,characters.image Image,matchups.char1wins Char1Wins, matchups.char2wins Char2wins,matchups.draws Draws FROM characters INNER JOIN matchups ON (char1=6 AND characters.ID = matchups.char2 ) OR (char2=6 AND characters.ID = matchups.char1 ) 或使用pig -useHCatalog并注册支持JARS for HCAT以使用grunt。

使用pig时,您可以找到已分享到HDFS中的必需jar。

答案 1 :(得分:0)

require(
    ["dojo/request/notify", "dojo/cookie"],function(notify,Cookie ){
notify("send", function(response, cancel) {
            response.xhr.setRequestHeader('X-XSRF-TOKEN', Cookie("XSRF-TOKEN"));
        });}

这可能是您没有使用确切名称创建Hive表的原因。检查配置单元表和架构是否相同。 在使用Hcatlog之前,我们必须在我们加载数据的位置上创建表模式。如果需要,请使用任何队列名称。在执行之前,请检查配置单元中的表格。

希望它会有所帮助。尝试