我目前正在为GCP进行内部审核评估和清理。由于数据是跨各种服务和项目的TB。首先,有一种方法可以获取存储在Google云平台中的服务/项目/位置级别数据,这些数据链接到相应的账单帐户,包括GCP的云存储,大查询,计算引擎(永久磁盘)和其他服务。
我们是否可以以简单的方式从审核/计费日志中提取这些数据,还是需要使用bq,gsutil,gcloud命令等各自的命令来探索单个服务/项目?
目前,我正在使用以下方法来估算bigquery和存储中所有项目的总体存储:
对于Bigquery:
#standardSQL
SELECT
SUM(bytes)/(1024*1024*1024*1024)
FROM (
SELECT
SUM(size_bytes) AS bytes
FROM
`<project-x>.<dataset-1>.__TABLES__` union all
SELECT
SUM(size_bytes) AS bytes
FROM
`<project-y>.<dataset-2>.__TABLES__` union all .....)
对于存储:
gsutil -o GSUtil:default_project_id=project-id du -shc
#This command executes slower with increasing number of files in the bucket