在Bigquery中查询外部表并且新数据到达时,没有架构自动检测

时间:2018-01-25 12:23:00

标签: google-bigquery google-cloud-platform google-cloud-storage

这是目前的情况:

我已经在BigQuery中针对云存储中的json创建了一个外部表。

我正在测试它对模式自动检测的工作原理。

当我创建表时,有2个json文件具有不同的模式,Bigquery做得很好。

当我使用新架构加载新文件(向记录字段添加新属性)时,Bigquery会识别新记录,但此新字段不会出现。因此,架构自动检测并不像我预期的那样工作。

如何在新文件到达我的云存储文件夹时获取架构自动检测?

任何帮助?

1 个答案:

答案 0 :(得分:1)

Culprit:AFAIK自动架构检测在您创建表时发生,并且在您添加新文件时未更新。

可能的解决方案:

  • 新文件到达时重新创建表格。

直接实施:

  • 在GCS上为新到达的文件添加发布/订阅通知,使用Google Cloud功能重新创建表格触发器。