在bigquery中合并具有一个公共值的数组

时间:2019-10-23 21:40:00

标签: sql arrays google-bigquery

在大查询中,我有一个表,其中一列是一个字符串数组。 数据将如下所示:

['a','b']
['b','c']
['c', 'd']
['e']

现在我想要的输出是:

['a','b','c','d']
['e']

基本上我想合并所有具有至少一个共同值的数组。

我能做到吗?

谢谢

1 个答案:

答案 0 :(得分:2)

通常,这种逻辑是使用所谓的递归CTE实现的,但是BigQuery不支持这种逻辑!

幸运的是,最近引入的scripting功能允许在BigQuery中实现此功能

因此,以下是BigQuery标准SQL

DECLARE rows_count, run_away_stop INT64 DEFAULT 0;

CREATE TEMP TABLE ttt AS WITH input AS (
  SELECT ['a', 'b'] arr UNION ALL
  SELECT ['b', 'c'] UNION ALL
  SELECT ['c', 'd'] UNION ALL
  SELECT ['x', 'y'] UNION ALL
  SELECT ['y', 'a'] UNION ALL
  SELECT ['e'] 
)
SELECT ARRAY(SELECT val FROM UNNEST(arr) val ORDER BY val ) arr FROM input;

LOOP
  SET rows_count = (SELECT COUNT(1) FROM ttt);
  SET run_away_stop = run_away_stop + 1;

  CREATE OR REPLACE TEMP TABLE ttt AS
  SELECT ANY_VALUE(arr) arr FROM (
    SELECT ARRAY(SELECT DISTINCT val FROM UNNEST(arr) val ORDER BY val) arr
    FROM (
      SELECT ANY_VALUE(arr1) arr1, ARRAY_CONCAT_AGG(arr) arr    
      FROM (
        SELECT t1.arr arr1, t2.arr arr2, ARRAY(SELECT DISTINCT val FROM UNNEST(ARRAY_CONCAT( t1.arr, t2.arr)) val ORDER BY val) arr 
        FROM ttt t1, ttt t2 
        WHERE (SELECT COUNT(1) FROM UNNEST(t1.arr) val JOIN UNNEST(t2.arr) val USING(val)) > 0
      ) GROUP BY FORMAT('%t', arr1)
    )
  ) GROUP BY FORMAT('%t', arr);

  IF (rows_count = (SELECT COUNT(1) FROM ttt) AND run_away_stop > 1) OR run_away_stop > 10 THEN BREAK; END IF;
END LOOP;

SELECT ARRAY_TO_STRING(arr, ',') arr FROM ttt;    

最终输出

Row arr  
1   a,b,c,d,x,y  
2   e    

以上进行了3次迭代。在实际示例中,显然需要更多时间-因此您需要调整允许的最大迭代次数-当前为10(请参见LOOP中的最后一条语句)

注意:以上很可能可以优化-由您自己决定