我在py_func
调用中看到矩阵乘法的致命错误。
在py_func
调用中,我将张量与一组3D坐标乘以旋转矩阵。重现此错误:
x = np.matmul(np.ones([640*480, 3]), np.eye(3))
在TF会话外部运行时,这没有问题,但是在会话中通过py_func
调用时,我得到
以退出代码138(被信号10:SIGBUS中断)结束的过程
尝试使用不同的张量大小,我发现对于形状为(29000,3)
的行有效,而对于(29200,3)
而言,行失败。
我正在使用TensorFlow-1.12.0。
什么可能导致此问题,我该如何解决?