我在ClientConnectionError
生成的multiprocessing.Queue
中放置了asyncio
异常。我这样做是为了将异步域中生成的异常传递回另一个线程/进程中的客户端。
我的假设是此异常发生在反序列化过程中,该异常从队列中读取。否则,看起来几乎是不可能的。
Traceback (most recent call last):
File "model_neural_simplified.py", line 318, in <module>
main(**arg_parser())
File "model_neural_simplified.py", line 314, in main
globals()[command](**kwargs)
File "model_neural_simplified.py", line 304, in predict
next_neural_data, next_sample = reader.get_next_result()
File "/project_neural_mouse/src/asyncs3/s3reader.py", line 174, in get_next_result
result = future.result()
File "/usr/lib/python3.6/concurrent/futures/_base.py", line 432, in result
return self.__get_result()
File "/usr/lib/python3.6/concurrent/futures/_base.py", line 384, in __get_result
raise self._exception
File "/usr/lib/python3.6/concurrent/futures/thread.py", line 56, in run
result = self.fn(*self.args, **self.kwargs)
File "model_neural_simplified.py", line 245, in read_sample
f_bytes = s3f.read(read_size)
File "/project_neural_mouse/src/asyncs3/s3reader.py", line 374, in read
size, b = self._issue_request(S3Reader.READ, (self.url, size, self.position))
File "/project_neural_mouse/src/asyncs3/s3reader.py", line 389, in _issue_request
response = self.communication_channels[uuid].get()
File "/usr/lib/python3.6/multiprocessing/queues.py", line 113, in get
return _ForkingPickler.loads(res)
File "/usr/local/lib/python3.6/dist-packages/aiohttp/client_exceptions.py", line 133, in __init__
super().__init__(os_error.errno, os_error.strerror)
AttributeError: 'str' object has no attribute 'errno'
我认为这是一个遥不可及的问题,但是有人知道这个问题吗?
Python 3.6.8,aiohttp .__ version__ == 3.6.0
更新:
我设法重现了这个问题(在改进最小可重现测试用例的评论中注明了塞缪尔的功劳,后来在bugs.python.org中使用xtreak进一步将其提炼为仅用于腌菜的测试用例):
import pickle
ose = OSError(1, 'unittest')
class SubOSError(OSError):
def __init__(self, foo, os_error):
super().__init__(os_error.errno, os_error.strerror)
cce = SubOSError(1, ose)
cce_pickled = pickle.dumps(cce)
pickle.loads(cce_pickled)
./python.exe ../backups/bpo38254.py
Traceback (most recent call last):
File "/Users/karthikeyansingaravelan/stuff/python/cpython/../backups/bpo38254.py", line 12, in <module>
pickle.loads(cce_pickled)
File "/Users/karthikeyansingaravelan/stuff/python/cpython/../backups/bpo38254.py", line 8, in __init__
super().__init__(os_error.errno, os_error.strerror)
AttributeError: 'str' object has no attribute 'errno'
参考文献:
答案 0 :(得分:3)
OSError
具有SQL DEMO;不幸的是,对于与预期参数不匹配的子类,它不是子类友好的。您可以通过手动调用__reduce__
来查看酸洗的中间状态:
>>> SubOSError.__reduce__(cce)
(modulename.SubOSError, (1, 'unittest'))
tuple
的第一个元素是可调用的调用,第二个元素是要传递的参数tuple
。因此,当它尝试重新创建您的类时,它会这样做:
modulename.SubOSError(1, 'unittest')
丢失了与您最初创建时所用的OSError
有关的信息。
如果您必须接受与OSError.__reduce__
/ OSError.__init__
所期望的参数不匹配的参数,则需要编写自己的__reduce__
覆盖以确保正确的信息被腌制。一个简单的版本可能是:
class SubOSError(OSError):
def __init__(self, foo, os_error):
self.foo = foo # Must preserve information for pickling later
super().__init__(os_error.errno, os_error.strerror)
def __reduce__(self):
# Pickle as type plus tuple of args expected by type
return type(self), (self.foo, OSError(*self.args))
采用这种设计,SubOSError.__reduce__(cce)
现在将返回:
(modulename.SubOSError, (1, PermissionError(1, 'unittest')))
其中tuple
的第二个元素是重新创建实例所需的正确参数(预期从OSError
到PermissionError
的更改; OSError
实际上返回它自己的) errno
为基础的子类。
答案 1 :(得分:0)
此问题已修复,并于2019年9月25日合并到aiohttp
的主版本中。如果我注意到此修复程序已包含在中的版本,我将在以后更新此答案(请随意编辑将来回答以记下包含此更新的版本)。。
修复的Git问题: