Question

我有一个名为main.py的python脚本（服务器），它可以接受客户端请求并将数据添加到队列中。很少有python worker线程正在检查该队列。如果worker空闲并且队列不为空，则worker从队列中获取一个元素，进行处理并将响应发送回客户端。客户应该等到工人执行任务为止。如何在python中做到这一点？基本上，我如何确定应该向谁发回数据。我们通常要做的是使用main.py从flask.jsonify()的serve函数返回值。但是我不能在这里这样做，因为处理可能会在线程空闲时稍后进行。

工作线程在另一个python脚本中。说worker.py

这是我的 main.py

from queue import Queue
import flask
import threading

# initialize flask application
app = flask.Flask(__name__)

## Creating pools
workers = Queue(10)
tasks = Queue(10)

taskLock = threading.Lock()

@app.route('/predict', methods=["POST"])
def serve():
    if flask.request.method == "POST":
        if flask.request.files.get('image'):
            tasks.put(flask.request.files["image"].read())

            ??

            return flask.jsonify(("wait..."))




if __name__ == "__main__":
    print("Server is running...")
    app.run(host='0.0.0.0')

worker.py 代码

class predictThread(threading.Thread):
    def __init__(self, threadID, name, que, lock):
        threading.Thread.__init__(self)
        self.threadID  =threadID
        self.name = name
        self.que = que
        self.lock = lock

    def run(self):
        print("starting " + self.name + " thread")
        work(self.que, self.lock)
        print("Exiting " + self.name + " thread")


def work(que, lock):
    while True:
        if que.empty():
            time.sleep(2)
        else:
            lock.acquire()
            data = que.get()
            lock.release()
            # process data

假定工作线程正在main.py的工作队列中运行。我还没有创建它们。

Answer 1

这里提供的是异步处理模型。您会收到一些工作，以后再处理。由于客户端与服务器之间的通信是同步的，因此您可以选择以下几种方式：

保持HTTP连接：服务器通常具有一个设置的超时值，例如5/10/15秒，因此您可以做的是让客户端使连接保持活动状态的时间长于此默认超时，直到完成运行为止工作并返回响应。需要注意的是，响应时间取决于您队列中的作业数量，到达请求中指定的作业可能要花几分钟/小时，而该请求可能在队列末尾，但是有一些方法为了解决这个问题，例如，每个请求只有一个工人。（HTTP Persistent Connection）
您也可以向客户端发送202 ACCEPTED响应，以表明该作业已被接受以进行处理，并让客户端轮询服务器以获取该作业的状态。

如果您的客户端是浏览器，则可以查看Comet web application model，其中包含解决此问题的不同方法。

如何使用其他python脚本-Python Flask

1 个答案: