将数据从RDBMS加载到Bigquery

时间:2020-01-31 03:33:28

标签: google-bigquery

我有一个App Engine计划的作业,该作业每天运行,并在满足归档条件的PostgreSQL表(在gcp中托管,而不是cloudsql)中查找行。如果符合条件,它将连接到BigQuery并将数据流式传输到大查询。每天都有记录可以归档的记录很少,我们写给BigQuery。这是节省成本的方法,还是我们可以尝试使用Cloud Functions加载数据? https://cloud.google.com/solutions/performing-etl-from-relational-database-into-bigquery

1 个答案:

答案 0 :(得分:0)

App EngineCloud Functions具有不同的用途。如果要在无服务器环境中部署完整的应用程序,则应使用App Engine。如果您需要在云中集成服务,请使用云功能。在您的情况下,似乎似乎更适合使用Cloud Functions。

请务必记住,Cloud Function有时间限制:您的代码必须运行的最长时间为9分钟。 您可以找到此限制和其他限制here

此外,您可以找到hereGCP产品的价格计算器。

如果还有其他问题,请告诉我。