标签： tensorflow tensorflow-serving tensorflow-datasets tensorflow-estimator tensorflow-xla
我正在使用由tensorflow提供的一些固定估计量，例如DNN。 生成的模型大小很大（几百兆字节），延迟也很高（几百毫秒）。我想尝试AOT编译，以查看是否可以改善服务延迟并减小模型尺寸。是否有一个示例说明我如何使xla.compile与固定估计器一起使用。您能给我指出一些示例代码，还是有类似的经验指导我正确的方向？