是否有任何元数据存储,如“hive Metastore'在BigQuery?

时间:2018-02-07 23:06:44

标签: hive google-bigquery hcatalog metastore

我是BigQuery的新手。我只是想知道,在BigQuery中我们是否有像hive metastore(有关所有表,列及其描述的元数据)的内容?

1 个答案:

答案 0 :(得分:5)

BigQuery提供了一些特殊的表,其内容表示元数据,例如数据集中的表和视图列表。 "元表"是只读的。要访问有关数据集中的表和视图的元数据,请在查询的SELECT语句中使用__TABLES_SUMMARY__元表。您可以使用BigQuery Web UI,使用命令行工具的bq查询命令,或通过调用jobs.insert API方法和配置查询作业来运行查询。

另一个更详细的元表是__TABLES__ - 见下面的例子

    SELECT table_id,
        DATE(TIMESTAMP_MILLIS(creation_time)) AS creation_date,
        DATE(TIMESTAMP_MILLIS(last_modified_time)) AS last_modified_date,
        row_count,
        size_bytes,
        CASE
            WHEN type = 1 THEN 'table'
            WHEN type = 2 THEN 'view'
            WHEN type = 3 THEN 'external'
            ELSE '?'
        END AS type,
        TIMESTAMP_MILLIS(creation_time) AS creation_time,
        TIMESTAMP_MILLIS(last_modified_time) AS last_modified_time,
        dataset_id,
        project_id
    FROM `project.dataset.__TABLES__`  

表格模式 - 列,描述 - 您可以使用bq命令行 - 例如:

bq show publicdata:samples.shakespeare  

结果为

 tableId      Last modified                  Schema
 ------------- ----------------- ------------------------------------
 shakespeare   01 Sep 13:46:28   |- word: string (required)
                                 |- word_count: integer (required)
                                 |- corpus: string (required)
                                 |- corpus_date: integer (required)

https://cloud.google.com/bigquery/bq-command-line-tool#gettable

了解详情