Question

我可能无法正确理解FastAPI中的异步概念。

我正在同时从两个客户端访问以下应用程序的根端点。我希望FastAPI打印两次Started：

from fastapi import FastAPI
import asyncio

app = FastAPI()

@app.get("/")
async def read_root():
    print('Started')
    await asyncio.sleep(5)
    print('Finished')
    return {"Hello": "World"}

相反，我得到了以下内容，它们看起来非常不异步：

Started
Finished
INFO: ('127.0.0.1', 49655) - "GET / HTTP/1.1" 200
Started
Finished
INFO: ('127.0.0.1', 49655) - "GET / HTTP/1.1" 200

我想念什么？

Answer 1

如何确保同时存在多个请求？

您的代码很好-尝试使用以下命令进行测试：

for n in {1..5}; do curl http://localhost:8000/ & ; done

您的浏览器可能正在将后续请求缓存到同一URL。

Answer 2

从this github issue中的演示中可以看出，这可能不是由于FastAPI，而是由于运行请求的客户端。

Answer 3

您可能正在期待

Started
INFO: ('127.0.0.1', 49655) - "GET / HTTP/1.1" 200
Finished
Started
INFO: ('127.0.0.1', 49655) - "GET / HTTP/1.1" 200
Finished

但事实并非如此。

return {"Hello": "World"}

完成协程或API路由的执行，因此在返回之前该函数不会使任何语句执行不完整。

相反，如果您同时发出两个示例请求，则两个请求将在5.01到5.10秒内完成，而同步执行将花费您的代码稍多于10秒的时间。

Answer 4

如果我理解正确，则您尝试将根据不同请求执行的打印合并。您可能应该将print（“ started”）作为协程实现并以这种方式使用它：

async def started():
    print("Started")

@app.get("/")
async def read_root():
    await started()
    await asyncio.sleep(5)
    print('Finished')
    return {"Hello": "World"}

但是它也不能像您想要的那样工作。如果对数据库连接，身份验证和其他计算使用困难的请求，尤其是对第三方API的请求，则可以看到真正的异步。

祝你好运

Answer 5

我用 Chrome 浏览器做了同样的实验，结果和最初报道的一样。来自两个独立 Chrome 浏览器的请求一个接一个地处理（就像串行一样）。

@app.get("/test")
async def test():
    r = {"message": "Hello by /test api"}
    r['timestamp'] = datetime.datetime.utcnow()
    await asyncio.sleep(10)
    return r

2 个请求需要 20 秒（每个 10 秒）完成整个过程，这显然不是并发方式！

但是，当我按照答案中的建议尝试使用 curl 时，它是并行处理的 (!)

我用 2 个 Firefox 浏览器做了最后一个实验，结果也是并行执行。

最后，我从FastAPI的日志中找到了线索。当我尝试使用 2 个 Chrome 浏览器时，请求的来源 (ip:port) 记录相同

INFO:     10.10.62.106:54668 - "GET /test HTTP/1.1" 200 OK
INFO:     10.10.62.106:54668 - "GET /test HTTP/1.1" 200 OK

但是，如果我尝试使用 Firefox，则来源不同。

INFO:     10.10.62.106:54746 - "GET /test HTTP/1.1" 200 OK
INFO:     10.10.62.106:54748 - "GET /test HTTP/1.1" 200 OK

从上面的日志可以得出结论，FastAPI（或者前面的uvicorn）只有在源地址不同的情况下才并行处理请求。

请有人对上述结论发表评论。谢谢。

FastAPI的行为不异步

5 个答案: