删除Numpy数组中的NaN和Infs

时间:2016-04-22 10:37:11

标签: python arrays numpy

最近我在学习Python numpy时遇到了问题。实际上我在远程服务器上测试一个自定义函数,这个函数使用 numpy.linalg.eig

import numpy
from numpy import *

def myfun(xAr,yAr) #xAr, yAr are Matrices
  for i in xrange(xAr.shape[1]):
    Mat=xAr.T*yAr*yAr.T*xAr
    val,vec=linalg.eig(Mat)
    # and so on...

并且测试给出错误报告"第1088行,在eig中:数组不得包含infs或NaNs"。

因此我尝试删除包含NaN或Infs的列,我的代码是:

def myfun(xAr,yAr)
  id1=isfinite(sum(xAr,axis=1))
  id2=isfinite(sum(yAr,axis=1))
  xAr=xAr[id1&id2]
  yAr=yAr[id1&id2]
  for i in xrange(xArr.shape[1]):
    Mat=xAr.T*yAr*yAr.T*xAr
    val,vec=linalg.eig(Mat)
    # and so on...

但同样的错误又出现了。

我不知道此测试的确切数据值,因为此测试位于远程服务器上,并且禁止显示原始数据值。我所知道的是数据是一个包含NaN和Infs的矩阵。

有人可以给我一些建议,为什么 isfinite 无法在这里工作,或者我在删除这些NaN和Infs时做错了吗?

2 个答案:

答案 0 :(得分:2)

给出两个这样的阵列:

In [1]: arr_1
Out[1]: 
array([[  0.,  nan,   2.,   3.],
       [  4.,   5.,   6.,   7.],
       [  8.,   9.,  10.,  11.],
       [ 12.,  nan,  14.,  15.],
       [ 16.,  17.,  18.,  19.]])

In [2]: arr_2
Out[2]: 
array([[ -0.,  -1.,  -2.,  nan],
       [ -4.,  -5.,  -6.,  -7.],
       [ -8.,  -9., -10., -11.],
       [-12., -13., -14., -15.],
       [-16., -17., -18., -19.]])

你可能想忽略第1列和第3列。我们可以为它创建一个掩码:

In [3]: mask_1 = np.isfinite(arr_1).all(axis=0)

In [4]: mask_1
Out[4]: array([ True, False,  True,  True], dtype=bool)

In [5]: mask_2 = np.isfinite(arr_2).all(axis=0)

In [6]: mask_2
Out[6]: array([ True,  True,  True, False], dtype=bool)

组合这些蒙版会让我们选择正确的列:

In [7]: mask_1 & mask_2
Out[7]: array([ True, False,  True, False], dtype=bool)

In [8]: arr_1[:, mask_1 & mask_2]
Out[8]: 
array([[  0.,   2.],
       [  4.,   6.],
       [  8.,  10.],
       [ 12.,  14.],
       [ 16.,  18.]])

如果我们决定过滤掉无效行,我们需要交换轴:

In [9]: mask_1 = np.isfinite(arr_1).all(axis=1)

In [10]: mask_2 = np.isfinite(arr_2).all(axis=1)

In [11]: arr_1[mask_1 & mask_2, :]
Out[11]: 
array([[  4.,   5.,   6.,   7.],
       [  8.,   9.,  10.,  11.],
       [ 16.,  17.,  18.,  19.]])

你似乎已经对轴稍微搞砸了,仅此而已。

答案 1 :(得分:1)

np.nan_to_num()非常适合在ndarray中重写NaN和infs。

pd.DataFrame.dropna()(您的数据在pandas数据框中)非常适合 有选择地删除行或列而不是重写它们 就像nan_to_num一样。