在Google Colab中，有没有一种方法可以检查正在运行的TPU版本？

Question

colab提供免费的TPU。很容易看到有多少个内核，但是我想知道是否有可能看到每个内核有多少内存？

Answer 1

据我所知，我们没有Tensorflow操作或类似的访问内存信息的方法，尽管在XRT中我们有。同时，下面的代码片段会起作用吗？

import os
from tensorflow.python.profiler import profiler_client

tpu_profile_service_address = os.environ['COLAB_TPU_ADDR'].replace('8470', '8466')
print(profiler_client.monitor(tpu_profile_service_address, 100, 2))

输出如下：

  Timestamp: 22:23:03
  TPU type: TPU v2
  Utilization of TPU Matrix Units (higher is better): 0.000%

TPUv2每核8GB，TPUv3每核16GB HBM（https://cloud.google.com/tpu）。