我想知道将哪种类型的插入操作将大型查询(具有多个联接和联合)的结果保存到目标(按天划分)表中。 当前,我在GC VM上执行这些查询,将结果保存在本地临时CSV中,并将这些CSV分别上传到各自的表中。
这是相当无效的(没有那么快,并且使用了大量的VM资源)。但是,它很便宜,因为CSV加载作业是免费的。如果我要将查询结果保存到目标表中(追加到已经包含100M +行的旧数据中),那会产生插入流式传输费用吗?这是我要避免的事情,因为$ 0.02 / MB可能会增加很多,因为我们每天都会添加大量数据。
感谢您的帮助。
答案 0 :(得分:0)
在Bigquery内部运行查询并将结果保存到目标表
如果您的数据超出BQ,最后将数据添加到BQ
答案 1 :(得分:0)
我想知道哪种插入将大型查询(具有多个联接和联合)的结果保存到目标表(按天划分)的表。
...如果我要将查询结果保存到目标表中(追加到已经由100M +行组成的旧数据中),那会产生插入流式传输费用吗?
为查询作业设置目标表是将查询结果添加到现有表的最有效方式。它不会产生与流媒体相关的任何额外费用,因为这里根本没有流媒体发生