Google BigQuery要求加入,但我已经在使用它了

时间:2015-02-24 19:01:20

标签: google-bigquery

我试图在BigQuery中运行一个查询,它有两个子选择和一个连接,但是我无法让它工作。我作为一种解决方法所做的是自己运行子选择,然后将它们保存为表,然后使用连接执行另一个查询,但我认为我应该能够通过一个查询来执行此操作。

我收到错误:

Table too large for JOIN. Consider using JOIN EACH. For more details, please see https://developers.google.com/bigquery/docs/query-reference#joins

但我已经分别使用了加入。我尝试过使用交叉连接并使用每个组,但这些给了我不同的错误。 Stack Overflow关于这个主题的其他问题没什么帮助,一个说它是BigQuery中的一个错误,另一个是有人使用'交叉加入每个' ...

下面是我的sql,请原谅我,如果它充满了错误,但我认为它应该有效:

select
t1.device_uuid,
t1.session_uuid,
t1.nth,
t1.Diamonds_Launch,
t2.Diamonds_Close
from (
    select
    device_uuid,
    session_uuid,
    nth,
    sum(cast([project_id].[table_id].attributes.Value as integer)) as Diamonds_Launch
    from [project_id].[table_id]
    where name = 'App Launch'
    and attributes.Name = 'Inventory - Diamonds'
    group by device_uuid, session_uuid, nth
    ) as t1
join each (
    select
    device_uuid,
    session_uuid,
    nth,
    sum(cast([project_id].[table_id].attributes.Value as integer)) as Diamonds_Close
    from [project_id].[table_id]
    where name = 'App Close'
    and attributes.Name = 'Inventory - Diamonds'
    group by device_uuid, session_uuid, nth
    ) as t2
on t1.device_uuid = t2.device_uuid
and t1.session_uuid = t2.session_uuid

2 个答案:

答案 0 :(得分:6)

GROUP BY内有JOIN EACHGROUP BYGROUP BY以基数(不同值的数量)命中限制,并且最终分组不可并行化。这限制了BigQuery进行连接的能力。

如果您将GROUP EACH BY更改为{{1}},则很可能会有效。

(是的,我意识到这是令人不快和非标准的.BigQuery团队目前正在努力制作这样的事情,只是工作'。)

答案 1 :(得分:3)

这可以合并为一个查询:

SELECT device_uuid,
       session_uuid,
       nth,
       SUM(IF (name = 'App Launch', INTEGER([project_id].[table_id].attributes.Value), 0)) AS Diamonds_Launch,
       SUM(IF (name = 'App Close', INTEGER([project_id].[table_id].attributes.Value), 0)) AS Diamonds_Close,
FROM [project_id].[table_id]
WHERE attributes.Name = 'Inventory - Diamonds'
GROUP BY device_uuid,
         session_uuid,
         nth

您还必须将GROUP EACH用于大型表格。