Pandas数据帧行为

时间:2014-08-11 01:42:41

标签: python memory-management pandas

此代码有效 - 它将每列设置为其平均值:

def setSerNanToMean(serAll):
    return serAll.replace(np.NaN, serAll.mean())
def setPdfNanToMean(pdfAll, listCols):
    pdfAll.ix[:,listCols] = pdfAll.ix[:,listCols].apply(setSerNanToMean)
setPdfNanToMean(pdfAll, [1,2,3,4])

此代码不起作用:

def setSerNanToMean(serAll):
    return serAll.replace(np.NaN, serAll.mean())
def setPdfNanToMean(pdfAll, listCols):
    pdfAll.ix[:,listCols].apply(setSerNanToMean) # This line has changed!
setPdfNanToMean(pdfAll, [1,2,3,4])

为什么第二段代码不起作用? DataFrame.apply()默认为inplace吗? apply函数没有inplace参数。如果它不起作用,这不会使大熊猫成为可怕的内存处理程序吗?所有pandas数据框操作都会复制这样的情况吗?在地方做这件事不是更好吗?即使它没有默认为inplace,它不应该像replace()那样提供一个inplace参数吗?

我不像普遍理解那样寻找具体的答案。同样,其中一个代码块可以工作,所以我可以继续前进,但我真正想要做的是了解pandas如何处理内存对象的操作。我有麦金尼的书,所以页面引用非常欢迎,所以你不必输入太多。

1 个答案:

答案 0 :(得分:2)

不,申请不适用于*。

这是你的另一个:inplace标志实际上并不意味着实际发生的任何功能(!)。举个例子:

In [11]: s = pd.Series([1, 2, np.nan, 4])

In [12]: s._data._values
Out[12]: array([  1.,   2.,  nan,   4.])

In [13]: vals = s._data._values

In [14]: s.fillna(s.mean(), inplace=True)

In [15]: vals is s._data._values  # values are the same
Out[15]: True

In [16]: vals
Out[16]: array([ 1.        ,  2.        ,  2.33333333,  4.        ])

In [21]: s = pd.Series([1, 2, np.nan, 4])  # start again

In [22]: vals = s._data._values

In [23]: s.fillna('mean', inplace=True)

In [24]: vals is s._data._values  # values are *not* the same
Out[24]: False

In [25]: s._data._values
Out[25]: array([1.0, 2.0, 'mean', 4.0], dtype=object)

注意:通常如果类型相同,那么值数组也是如此,但是pandas不能保证这一点。

一般来说,应用很慢(因为你基本上迭代python中的每一行),而“游戏”是根据pandas / numpy本机函数和索引来重写该函数。如果您想深入了解有关内部的更多详细信息,请查看core / internals.py中的BlockManager,这是保存底层numpy数组的对象。但说实话,我认为你最有用的工具是%timeit,并查看特定函数的源代码(ipython中的??)。

在这个具体的例子中,我会考虑在你想要的列的显式for循环中使用fillna:

In [31]: df = pd.DataFrame([[1, 2, np.nan], [4, np.nan, 6]], columns=['A', 'B', 'C'])

In [32]: for col in ["A", "B"]:
   ....:     df[col].fillna(df[col].mean(), inplace=True)
   ....:

In [33]: df
Out[33]:
   A  B   C
0  1  2 NaN
1  4  2   6

(也许fillna有这个用例的列参数是有意义的吗?)

所有这些并不是说大熊猫的内存效率低下......但有时候必须考虑高效(和内存效率)的代码。

* apply通常不会有意义(并且IMO很少需要这种行为)。