将结果保存到目标表成本

时间:2018-09-18 13:52:45

标签: google-bigquery

我想知道将哪种类型的插入操作将大型查询(具有多个联接和联合)的结果保存到目标(按天划分)表中。 当前,我在GC VM上执行这些查询,将结果保存在本地临时CSV中,并将这些CSV分别上传到各自的表中。

这是相当无效的(没有那么快,并且使用了大量的VM资源)。但是,它很便宜,因为CSV加载作业是免费的。如果我要将查询结果保存到目标表中(追加到已经包含100M +行的旧数据中),那会产生插入流式传输费用吗?这是我要避免的事情,因为$ 0.02 / MB可能会增加很多,因为我们每天都会添加大量数据。

感谢您的帮助。

2 个答案:

答案 0 :(得分:0)

在Bigquery内部运行查询并将结果保存到目标表

  • 查询价格(无论如何付款)
  • 存储价格(新数据累积到表中-选择已分区)
  • 没有流媒体费用

如果您的数据超出BQ,最后将数据添加到BQ

  • 如果您使用负载(免费)
  • 流插入(具有成本成分)
  • 存储新数据,即您添加的表

答案 1 :(得分:0)

  

我想知道哪种插入将大型查询(具有多个联接和联合)的结果保存到目标表(按天划分)的表。
  ...如果我要将查询结果保存到目标表中(追加到已经由100M +行组成的旧数据中),那会产生插入流式传输费用吗?

为查询作业设置目标表是将查询结果添加到现有表的最有效方式。它不会产生与流媒体相关的任何额外费用,因为这里根本没有流媒体发生