如何将输入模式附加到pig中的输出

时间:2014-06-06 09:32:36

标签: hadoop apache-pig cloudera piggybak

我已经编写了一个UDF,我的输入模式是一个元组包,现在在我的UDF中我处理每个元组并为每个元组附加额外的字段并将其提供给输出包。 这很好用,现在在我的下一步中我尝试创建输出包的输出模式,我想在我输入的包的元组中添加一个字段。 我怎么能这样做?

这是我的输入包架构。

xx: {(uniqueRS::PreprocUDF::id: long,uniqueRS::PreprocUDF::dominion: chararray,uniqueRS::PreprocUDF::affectedItemGRN: chararray,uniqueDomAndUser: {(PreprocUDF::dominion: chararray)},uniqueRS::PreprocUDF::count: long)}

现在我需要这样

outputBag: {(uniqueRS::PreprocUDF::id: long,uniqueRS::PreprocUDF::dominion: chararray,uniqueRS::PreprocUDF::affectedItemGRN: chararray,uniqueDomAndUser: {(PreprocUDF::dominion: chararray)},uniqueRS::PreprocUDF::count: long,grpName:chararray)}

我尝试将此作为我的输出架构,但它没有用,

public Schema outputSchema(Schema input) {
     Schema.FieldSchema grpName = new Schema.FieldSchema("grpName", DataType.CHARARRAY);
     input.add(grpName);
retrun input;
}

我也试过`mergePrefixSchema()仍然没有运气请帮帮我。

也以这种方式尝试

    public Schema outputSchema(Schema input) {

    Schema.FieldSchema inputTupleFS = input.getField(0);
    Schema.FieldSchema grpName = new Schema.FieldSchema("grpName", DataType.CHARARRAY);


    ArrayList<Schema.FieldSchema> tupleList=new ArrayList();
    tupleList.add(inputTupleFS);
    tupleList.add(grpName);

    Schema bagSchema =new Schema(tupleList);
    Schema.FieldSchema bagFS =new Schema.FieldSchema("testBag", bagSchema, DataType.BAG);

    Schema outputBag=new Schema(bagFS);
}

感谢。

1 个答案:

答案 0 :(得分:0)

谢谢 [http://mail-archives.apache.org/mod_mbox/pig-user/201208.mbox/%3C79A5BC65BFC37343844D4BB8A05DD3EE0183A649BA@opera-ex5.ny.os.local%3E][1]

得到了答案

public Schema outputSchema(Schema input) {


            Schema tupleSchema = new Schema(input.getField(0).schema.getField(0).schema.getFields());
            Schema.FieldSchema grpName = new Schema.FieldSchema("grpName", DataType.CHARARRAY);

            tupleSchema.add(grpName);

            Schema.FieldSchema tupleFs = new Schema.FieldSchema("with_grpName", tupleSchema, DataType.TUPLE);



            Schema bagSchema =new Schema(tupleFs);
            Schema.FieldSchema bagFS =new Schema.FieldSchema("testBag", bagSchema, DataType.BAG);

            Schema outputBag=new Schema(bagFS);




                return outputBag;
            }