BigQuery:在编写查询结果时使用bigquery作业的意外行为

时间:2018-02-07 08:50:13

标签: python google-bigquery

我目前正在使用Bigquery作业调整一些数据并将其加载到其他表中。

我的bigquery作业从表中读取,使用查询作业,然后将其写入其他表。作业执行成功,作业状态完成,但任何行都已加载。

这是代码:

table_id_from = "table_from"

table_ref_to = bigquery_client.dataset('format').table("table_to")

job_config = bigquery.LoadJobConfig()

job_config.create_disposition = 'NEVER'
job_config.destination = table_ref_to_format
job_config.write_disposition = 'WRITE_APPEND'
job_config.use_legacy_sql = False

# Start the query, passing in the extra configuration.
query = """SELECT id, name, short_name,
    subdomain, address, address2, department, state, zip
    from staging.%s;""" %(table_id_from)

query_job = bigquery_client.query(query, job_config=job_config)

rows_from_staging = list(query_job)  # Waits for the query to finish
print(len(rows_from_staging))
# assert query_job.state == 'RUNNING'
# assert query_job.job_type == 'query'

iterator = bigquery_client.list_rows(
    table_ref_to_format, selected_fields=[bigquery.SchemaField('id', 'INTEGER')])
rows = list(iterator)
print(len(rows))
print(query_job.state)
query_job.result()

第一部分的结果,当从表中读取时,打印len 3.另一方面,当查询目标表时,它不读取任何内容并打印0作为行的len。

3
0
DONE

发生了什么事?如果出现问题,我希望给我一个错误,但它运行成功。有什么帮助吗?

1 个答案:

答案 0 :(得分:2)

您正在使用LoadJobConfig()而不是QueryJobConfig()。如果你改变它,这将工作正常。