在多租户环境中缓存

Question

我正在开发一个托管多个租户的服务。该服务将具有有限大小的缓存，将由多个租户使用。我不想限制单个租户的缓存大小，因为那时我们没有有效地使用整个缓存池。但是，没有对个别客户端的限制可能会导致滥用缓存（例如，一个租户可能会持续缓存永远不会再次检索的数据）。什么是更好的方法？

Answer 1

恕我直言，这个用例有很多因素。我猜你正在使用像redis这样的有偿收费缓存模型。

一个问题是，如果事先不知道租户，你如何限制规模？ IFA租户即时加起来，你不能缩小已经允许现有租户的缓存大小 理想情况下，可以基于租户ID来识别高速缓存。因此，当您为租户添加缓存时，可以增加每个商店的使用量。

最好根据计量缓存使用情况向租户开帐单，或使用customLRU算法驱逐未使用的缓存。

希望这有帮助。