Google Cloud Run有一天会支持GPU / TPU吗?

时间:2019-05-26 16:31:48

标签: google-cloud-run

到目前为止,Google Cloud Run支持CPU。有支持GPU的计划吗?如果有GPU,那就太酷了,那么我可以演示DL项目,而无需真正运行昂贵的GPU实例。

2 个答案:

答案 0 :(得分:1)

  

到目前为止,Google Cloud Run支持CPU。有支持GPU的计划吗?   如果有GPU,那就太酷了,那么我可以演示DL   项目而没有真正运行一个非常昂贵的GPU实例。

我对此表示严重怀疑。 GPU / TPU是专用硬件。 Cloud Run是一项托管容器服务,可以:

  1. 使您能够运行可通过HTTP请求调用的无状态容器。这意味着不支持占用大量CPU的应用程序。在HTTP请求/响应之间,CPU闲置到接近零。您昂贵的GPU / TPU会闲置。
  2. 根据每秒的请求数自动缩放。在几秒钟内启动10,000个实例很容易实现。想象一下,如果客户能够推出那么多GPU / TPU和账单的金额,那么Google计费支持的噩梦。
  3. 按100毫秒的时间间隔计费。大多数请求适合执行数百毫秒。这不是CPU / GPU / TPU集成的良好执行或业务模型。
  4. 提供一种计费模型,可在不使用时将Web服务的成本显着降低至几乎为零。您只需支付存储容器图像的费用。当在服务URL处收到HTTP请求时,会将容器映像加载到执行单元中,然后继续处理请求。请求停止后,计费和资源使用也将停止。

GPU / TPU类型的数据处理最好由保护和管理这些处理器设备提供的处理能力和成本的后端实例提供。

答案 1 :(得分:0)

您可以将 GPU 与 Cloud run for Antos 结合使用

https://cloud.google.com/kuberun/docs/configuring/compute-power-gpu