Question

如何通过在配置单元中选择相同的分区表来覆盖列值。

我通过执行以下查询

创建了表格

AA  AA  20170201
BB  BB  20170201
CC  CC  20170201
DD  DD  20170202
EE  EE  20170203

我在将数据插入表格后插入数据。我执行了select查询，如下所示：

ALTER TABLE user ADD COLUMNS ( day2 int);

根据我的要求，我想在我的表（用户）中再添加一列，在我添加的以下查询的帮助下。

AA  AA  NULL    20170201
BB  BB  NULL    20170201
CC  CC  NULL    20170201
DD  DD  NULL    20170202
EE  EE  NULL    20170203

添加列后，我的表格如下所示

AA  AA  20170201    20170202
BB  BB  20170201    20170202
CC  CC  20170201    20170202
DD  DD  20170202    20170202
EE  EE  20170203    20170203

但我想要表格。

insert overwrite table user partition (day)
select
    fname,
    lname,
    day as day2,
    case 
        when day <= 20170202 then 20170202
        when day > 20170202 then day
    end as day
from user;

所以我执行了以下查询

select * from user;

然后我执行了如下所示的选择查询

AA  AA  NULL    20170201
BB  BB  NULL    20170201
CC  CC  NULL    20170201
AA  AA  NULL    20170202
BB  BB  NULL    20170202
CC  CC  NULL    20170202
DD  DD  NULL    20170202
EE  EE  NULL    20170203

结果是：

   AA   AA  20170201    20170202
    BB  BB  20170201    20170202
    CC  CC  20170201    20170202
    DD  DD  20170202    20170202
    EE  EE  20170203    20170203

为什么我得到空值。可以让我知道我错过的任何事情，让我们如何实现这一点.i.e

{{1}}

Answer 1

遵循分区Hive表的行为，HiVE的架构定义在分区级别维护。因此较旧的分区可能没有收到架构更新。

详细查询

hive> drop table test_insert;
OK
hive> CREATE TABLE test_insert (fname string,lname string) partitioned By (day int);
OK
hive> insert into test_insert partition (day=20170202) values('f','l');
OK
hive> insert into test_insert partition (day=20170203) values('f','l');
OK
hive> select * from test_insert;
OK
f   l   20170202
f   l   20170203
Time taken: 0.148 seconds, Fetched: 2 row(s)
hive> ALTER TABLE test_insert ADD COLUMNS ( day2 int);
OK
Time taken: 0.193 seconds
hive> select * from test_insert;
OK
   f    l   NULL    20170202
   f    l   NULL    20170203

此时，请注意分区表的架构在分区级别维护，并且它应该尊重分区架构，而不是表架构。

注意这里列中的差异。 ALTER没有更改现有分区的列定义。

  hive> describe formatted test_insert;
    OK
    # col_name              data_type               comment             

    fname                   string                                      
    lname                   string                                      
    day2                    int                                         

    # Partition Information      
    # col_name              data_type               comment             

    day                     int    

    hive> describe formatted test_insert partition (day=20170202);
    OK
    # col_name              data_type               comment             

    fname                   string                                      
    lname                   string                                      

    # Partition Information      
    # col_name              data_type               comment             

    day                     int

调整了您的上述查询，以创建新分区，以便将架构从表复制到新创建的分区。

 hive> insert overwrite table test_insert partition (day)
        > select
        >     fname,
        >     lname,
        >     day as day2,
        >     case 
        >         when day <= 20170202 then 19999999
        >         when day > 20170202 then day
        >     end as day
        > from test_insert;


    hive> select * from test_insert;
    OK
    f   l   20170202    19999999
    f   l   NULL    20170202
    f   l   NULL    20170203
    Time taken: 0.224 seconds, Fetched: 3 row(s)

希望这很清楚。如果要更改所有现有分区的架构，请尝试以下命令，然后尝试插入。

ALTER TABLE test_insert  partition(day) ADD COLUMNS ( day2 string);

如何通过在配置单元中的分区表中选择其他列来覆盖列值

1 个答案: