在Google BigQuery中展平多个重复的字段

时间:2017-06-08 13:52:51

标签: google-bigquery standard-sql legacy-sql

我试图在Big Query中重复字段中的数据。我看过这个Querying multiple repeated fields in BigQuery,但我似乎无法让它发挥作用。

我的数据如下所示:

[
  {
    "visitorId": null,
    "visitNumber": "15",


    "device": {
      "browser": "Safari (in-app)",
      "browserVersion": "(not set)",
      "browserSize": "380x670",
      "operatingSystem": "iOS",
    },
    "hits": [
      {
        "isEntrance": "true",
        "isExit": "true",
        "referer": null,
        "page": {
          "pagePath": "/news/bla-bla-bla",
          "hostname": "www.example.com",
          "pageTitle": "Win tickets!!",
          "searchKeyword": null,
          "searchCategory": null,
          "pagePathLevel1": "/news/",
          "pagePathLevel2": "/bla-bla-bla",
          "pagePathLevel3": "",
          "pagePathLevel4": ""
        },
        "transaction": null
      }
    ]
  }
]

我想要的是点击页面重复字段中的字段。

例如我想获取hits.page.pagePath(值为" / news / bla-bla-bla")

我尝试过以下查询,但收到错误:

SELECT 
visitorId,
visitNumber,
device.browser,
hits.page.pagePath
FROM 
`Project.Page`
LIMIT 1000

我得到的错误是

Error: Cannot access field page on a value with type ARRAY<STRUCT<hitNumber INT64, time INT64, hour INT64, ...>> 

1 个答案:

答案 0 :(得分:4)

ga_sessions架构中,字段hits表示为ARRAY类型。

通常在使用此类型字段时,您需要应用UNNEST操作才能打开数组。

具体来说,在FROM子句中,您可以应用CROSS JOIN(通过应用交叉连接操作来替换数组,可以用逗号后跟UNNEST函数表示),如下所示:

SELECT 
  visitorId,
  visitNumber,
  device.browser,
  hits.page.pagePath
FROM `Project.Page`,
UNNEST(hits) hits
LIMIT 1000

如果您需要特定的pagePath,可以像这样过滤掉它们:

SELECT 
  visitorId,
  visitNumber,
  device.browser,
  hits.page.pagePath
FROM `Project.Page`,
UNNEST(hits) hits
WHERE regexp_contains(hits.page.pagePath, r'/news/bla-bla-bla')
LIMIT 1000

请务必遵循关于此主题的BigQuery文档,它写得非常好,并且您将学习很多关于处理大数据的新技术。