存储Pig和Hive日期时间的正确格式是什么?

时间:2014-09-30 08:56:01

标签: datetime hive apache-pig hcatalog

使用Pig for ETL时,我使用HCatStorer将处理过的数据放入Hive中:

STORE dataprocessed INTO 'database.table' USING org.apache.hcatalog.pig.HCatStorer();

我的目标是使目标表的数据可以从Pig或Hive中使用(取决于用户的技能)

存储日期时间的推荐格式是什么?

我关心:

  • 存储时区信息
  • 能够比较日期
  • 人类可读(例如,我不相信时间戳是人类可读的)

感谢您的帮助

1 个答案:

答案 0 :(得分:1)

我可能会将日期/时间相关信息存储为ISO-8601格式的字符串/字符串,因为HCatStorer不直接支持日期类型(至少在猪中)。

有一些函数可以在pig中转换日期/时间信息:http://pig.apache.org/docs/r0.13.0/func.html#datetime-functions