谷歌BigQuery日志:我不认识的查询 - 我的盒子里的幽灵?

时间:2017-05-08 15:44:29

标签: google-bigquery

我是Google云技术和BigQuery的新手。我一直在监控我们的试用实例使用和计费,并看到该账单每天增加20-30英镑。仔细观察日志,我可以看到一个对我没有意义的查询:

  • SQL完全没有意义,我记得写它...使用GROUP EACH BY这对我来说是新闻
  • 使用分区时间:_PARTITIONTIME >= TIMESTAMP('20170306') AND _PARTITIONTIME <= TIMESTAMP('20170608'))我永远不会使用(太长,将来)
  • 使用表名t0 - 我倾向于在所有查询中将该表引用为nf
  • 运行随机时间(因此不会以cron或其他方式安排)
  • 在查询执行期间超出&#34;资源失败。&#34;在第3阶段
  • 在第一次失败后重新运行约3分钟(双击!)然后消失几个小时(在某些情况下可能是一天)
  • 我在日志
  • 中的callerIP中看不到requestMetadata
  • 的电子邮件地址位于authenticationInfo.principalEmail(来自用户界面)和user_email(来自bq show -j
  • job_中显示为bq ls -j,而不是bqjob_bquijob_
  • 现在运行近一个星期
  • 今天早上1:48跑步......我确信我睡着了,而且我的睡眠行走技能不足以启动我的笔记本电脑并输入该查询!
  • 不幸的是,它访问了我们最大的领域(IPv6),因此我认为它收取了很多费用

我尝试过:

  • 清除浏览器缓存
  • 重新启动我的桌面(1:48时唯一的机器)以摆脱任何被挂起的进程
  • 检查我的Google帐户安全性,一切似乎都已到位
  • BANNED 我自己从项目中看看是否会重新出现(我现在必须依赖同事用户界面 - 我仍然可以从服务器使用bq)

问题:

  • job_如果不是bqbqui,可以提交哪些内容?
  • 有没有办法看到哪个方框提交作业?某处应该有IP?
  • 我是否可以安排该查询在Google Cloud上运行(从日志中找不到callerIP字段)?
  • jobs可以挂在GC或者回声中吗?
  • 任何其他想法(除了睡觉之外!)

我真的不知道如何解决这个问题......

更新1

似乎每隔约12小时发生一次bq ls -j -a -n 4000 | grep FAILURE | grep ' job_' | grep -v '0:00:00'

的输出
job_gMFDrHsT291qb_GbWtE2LJcLjXc              query      FAILURE   08 May 14:36:04   0:01:07   
job_NyjyB18-fmBwgwd54TPrCjZAoNg              query      FAILURE   08 May 14:32:57   0:01:05   
job_li4-HVdwTmkFXWD73U5AeRKCDUc              query      FAILURE   08 May 01:49:21   0:00:19   
job_4pJageclv07PGjwDHrY81Eaj7mc              query      FAILURE   08 May 01:47:01   0:00:18   
job_tbuCj0TW8e3AOp2VQBQK4gglYS0              query      FAILURE   07 May 13:11:05   0:00:18   
job_yL5f6p15iEJKTZ-fp1jjDCJJyjo              query      FAILURE   07 May 13:08:20   0:00:43   
job_kY068APnwe5O4S4byne6bcqmYBM              query      FAILURE   07 May 00:27:52   0:00:17   
job_CezXvXKBgus-RdvbFFVsYfDcjEo              query      FAILURE   07 May 00:25:30   0:00:18   
job_S2b0y5RI6q1piYOVmPT_oMWAoN0              query      FAILURE   06 May 11:58:57   0:00:46   
job_HrJ_tcGAFoLuJPUgQ7oX9EAc2K0              query      FAILURE   06 May 11:56:17   0:00:38   
job_EHJGgzPm4nU5BXaAZmcYhzjgA20              query      FAILURE   05 May 23:19:30   0:00:17   
job_uusSrZ2egHSz746oa8AP663tmQI              query      FAILURE   05 May 23:16:47   0:00:41   
job_Y0V1Qvs0VS30RDuMejyj7ZPvK2s              query      FAILURE   05 May 10:42:55   0:00:16   
job_dPo0DWsAhQ7q84-hnijLTIGYYkI              query      FAILURE   05 May 10:40:36   0:00:18   
job_ve1yBjCDsjP5LMSeGV1bFza-Cx4              query      FAILURE   04 May 22:16:52   0:00:28   
job_1JnBDvDCPt8MkIMwfyzB4UmWSCo              query      FAILURE   04 May 22:14:30   0:00:20   
job_rG9UKl4qZ0p5T3AtXzH9hcDpafQ              query      FAILURE   04 May 09:22:15   0:00:19   
job_haQ-YE1nBb38_l9yvV1Qv4e0QKo              query      FAILURE   04 May 09:19:52   0:00:21   
job_PTPYDrppI02Noei67nSfjSpKa6E              query      FAILURE   03 May 20:41:16   0:00:17   
job_6mhiAbIkAFXaKMBF_aguy8NPOGY              query      FAILURE   03 May 20:38:54   0:00:20   
job_wq3yV1lGsXx_GGsuJJETGkrPgmQ              query      FAILURE   02 May 17:34:40   0:01:03   
job_ljTZeVt1yr-23faNNHPgutVRXdw              query      FAILURE   02 May 17:32:15   0:00:20   
job_LSFjN3oEM2UztrYxywnZWv-xHpw              query      FAILURE   02 May 12:25:14   0:00:13   
job_7G0_gZJx6uSYwU__lmMpWyuJtZ4              query      FAILURE   02 May 12:22:39   0:00:19   
job_7hFsQlIgMluj2iouPA-CKj2hxnE              query      FAILURE   02 May 12:22:34   0:00:19   
job_bJ_jRxkfWLggxcYHFBLE71rGB50              query      FAILURE   02 May 12:22:27   0:00:21 

1 个答案:

答案 0 :(得分:3)

Datastudio可以使用嵌入您的凭据来支持可视化/报告。数据广播中还有一项称为prefetch caching的功能,它将定期发出查询(通常为12小时)。日志中缺少CallerIP可能表示已从其他Google服务发出请求,而不是来自外部来源的请求。