使用EU BigQuery数据库时,Google Cloud DataPrep因跨区域错误而失败

时间:2018-02-28 22:16:32

标签: google-cloud-platform google-bigquery etl google-cloud-dataprep

我今天遇到了一些问题,开发了一些新的流程 - 第一个我从&加载到欧盟地区的BigQuery数据库。

为了解决问题,我采取了以下步骤:

  1. 在欧盟地区创建新的BQ数据库
  2. 通过上传CSV
  3. 创建表格
  4. 编写一个从此表中读取的流并输出到同一数据库中的新表中,不进行任何转换
  5. 然而,作业仍然失败,并显示以下消息:

    status: {
        "errorResult": {
            "message": "Cannot read and write in different locations: source: EU, destination: US",
            "reason": "invalid"
        },
        "errors": [{
            "message": "Cannot read and write in different locations: source: EU, destination: US",
            "reason": "invalid"
        }],
        "state": "DONE"
    }
    

    这是测试流程:

    Test flow

    这是由此产生的DataFlow:

    enter image description here

2 个答案:

答案 0 :(得分:1)

答案 1 :(得分:0)

我的欧盟数据源存在相同的问题。即使我确实在UE的BQ中拥有源-DataPrep默认登台存储桶也位于美国。

我重新创建了存储桶的结构,但是使用了EU位置,因为我无法修改已经由Dataprep临时存储桶自动创建的位置。
这个链接:https://cloud.google.com/dataprep/docs/html/User-Profile-Page_57344911帮助弄清楚了在哪里更改温度,作业运行以及之后的上传路径。