BigQuery联合数据源:命令行界面中的CSV选项?

时间:2018-08-02 09:50:44

标签: google-bigquery federated

使用命令行界面创建联合数据源时,是否可以指定诸如字段定界符,允许锯齿状行等的加载选项?

bq mk --external_table_definition=column_1:STRING,column_2:STRING@CSV=gs://my-bucket/my_files*.csv my_dataset.my_table

在Web UI或API中设置联合表时,您可以访问所有csv选项,它们是否刚刚被排除在命令行工具之外?

1 个答案:

答案 0 :(得分:0)

您可以在表定义JSON文件中指定这些选项。您可以在this document中找到很多示例。对于您在问题中提出的问题,您的JSON应该类似于以下内容:

{
  "schema": {
    "fields": [
      {
        "name": "column_1",
        "type": "STRING"
      },
      {
        "name": "column_2",
        "type": "STRING"
      }
    ]
  },
 "csvOptions": {
    "allowJaggedRows": true,
    "fieldDelimiter": "[DELIMITER]"
  },
  "sourceFormat": "CSV",
  "sourceUris": [
    "[BUCKET_URI]"
  ]
}

然后只需运行相同的命令并指定JSON file path而不是inline schema

bq mk --external_table_definition=[JSON_FILE_PATH] [YOUR_DATASET.YOUR_TABLE]