设计可以处理数百万请求的Rest API

Question

今天我在接受采访时被问到了。我将如何设计一个可以处理数百万请求的rest api。我是否需要在设计rest api时做一些特别的事情。我想如果有什么问题我会创建线程。这可能是什么答案。

Answer 1

这些答案应该作为回应：

要处理“数百万请求”，系统必须部署在负载均衡器后面的多个Web服务器上，这些服务器将在每个服务器之间循环。

如果系统正在访问数据存储区，则应使用二级缓存（ehcache，memcache等）来减少数据存储区的负载。