如何为传入的数百万个请求设计像调度程序一样工作的可伸缩服务（在定义的持续时间内）？

Question

让我们假设我要设计一种服务，该服务将接收传入的请求，并在d天内每h小时为该请求做一些工作。该服务将需要扩展到数百万个请求。我该如何设计这样的服务？