如何设置具有特定要求的GCP群集

时间:2019-12-07 11:14:51

标签: apache-spark google-cloud-platform hive apache-kafka airflow

任何人都可以帮助我设置Kafka,Hive,Spark,Python,Cassandra(或任何NoSQL平台)和启用气流的GCP群集。

2 个答案:

答案 0 :(得分:1)

  1. Google PubSub 与托管的 Kafka 类似,因此您可以迁移到pubsub而无需重新架构您的应用。
  2. Hive和Spark 工作负载可以在GCP的托管hadoop集群 DataProc 上运行。
  3. 对于 Python ,您可以使用 Google App Engine (用于Web应用程序)或 Google Compute Engine / Google Kubernetes Engine(GKE) )(用于常规Python脚本)
  4. Cassandra (或任何NoSQL平台),您可以改用 DataStore
  5. 对于气流,您可以使用 cloud composer ,它是在引擎盖下运行在GKE上的受控气流。

因此,您可以使用它,希望它可以帮助您入门。

答案 1 :(得分:0)

要问的东西太多了,但是您可以使用市场上的某些产品,例如kafka,cassandra等。https://console.cloud.google.com/marketplace

P.S。您还指定了Python,但这是一种编程语言。