Question

我需要使用所有可用的CPU并行运行逻辑，因为我正在使用台球程序包进行缓冲， PFB我的技术栈-

-Python 3
-Django==2.0.5
-Django rest from work
-celery==4.2.0

我的问题是，当我点击我的rest-API并触发我的芹菜任务时，它会一直执行到池化行，但是在那之后，它挂起了，我没有收到任何错误消息，但是它没有继续前进。

PFB我的项目结构：

-cdm
  |cmdapp
  |  |
  |  |helper
  |  |  |aaa.py
  |  |tasks
  |  |  |bbb.py
  |  |api
  |     |ccc.py
  |cdm
  | |settings.py
  |manage.py

PFB我的代码示例：

#cmdapp.helper.aaa.py
from billiard.pool import Pool
class A():
    def squre(self,number):
        return number*number
    def calculate(self,number_list):
        pool = Pool()
        result = pool.map(self.squre, number_list)
        return result

#cmdapp.tasks.bbb.py
from celery import task
from cmdapp.helper.aaa import A
@task
def calculation_task(number_list):
    a_obj=A()
    result=a_obj.calculate(number_list)



#cmdapp.api.ccc.py
from rest_framework.views import APIView
from rest_framework import status, permissions
from rest_framework.response import Response
from cmdapp.tasks.bbb import calculation_task

class C(APIView):
    def get(self, request):
        range_list=range(1000)
        calculation_task.delay(range_list)
        return Response({
            "result": "success",
        }, status=status.HTTP_200_OK)

我浏览了一些文章，其中提到不能被pool.map函数调用的不可拾取函数。在这里我没有得到我的函数是可拾取的还是不可拾取的，以及为什么它被挂起了。请帮忙。

Answer 1

我也遇到了同样的问题，我通过将对象方法转换为类方法或静态方法来解决了这个问题

我认为这种方式可以解决这个问题。

class A():

    @classmethod
    def squre(cls,number):
        return number*number

    def calculate(self,number_list):
        pool = Pool()
        result = pool.map(squre, number_list)
        return result

billiard.pool地图功能挂起

1 个答案: