Pandas数据帧:返回最大值的行和列

时间:2014-11-12 06:54:20

标签: python pandas

我有一个数据帧,其中所有值都具有相同的变化(例如相关矩阵 - 但我们期望唯一的最大值)。我想返回此矩阵最大值的行和列。

通过更改

的第一个参数,我可以在行列中获得最大值
df.idxmax()

然而,我还没有找到合适的方法来返回整个数据帧的最大行/列索引。

例如,我可以在numpy中执行此操作:

>>>npa = np.array([[1,2,3],[4,9,5],[6,7,8]])
>>>np.where(npa == np.amax(npa))
(array([1]), array([1]))

但是当我在熊猫中尝试类似的东西时:

>>>df = pd.DataFrame([[1,2,3],[4,9,5],[6,7,8]],columns=list('abc'),index=list('def'))
>>>df.where(df == df.max().max())
    a   b   c
d NaN NaN NaN
e NaN   9 NaN
f NaN NaN NaN

在第二级,我想要做的就是返回前n个值的行和列,例如作为一个系列。

E.g。对于上述我喜欢的功能:

>>>topn(df,3)
b e
c f
b f
dtype: object
>>>type(topn(df,3))
pandas.core.series.Series

甚至只是

>>>topn(df,3)
(['b','c','b'],['e','f','f'])

la numpy.where()

3 个答案:

答案 0 :(得分:4)

您要使用的是stack

df = pd.DataFrame([[1,2,3],[4,9,5],[6,7,8]],columns=list('abc'),index=list('def'))
df = df.stack()
df.sort(ascending=False)
df.head(4)

e  b    9
f  c    8
   b    7
   a    6
dtype: int64

答案 1 :(得分:3)

我想出了第一部分:

npa = df.as_matrix()   
cols,indx = np.where(npa == np.amax(npa))
([df.columns[c] for c in cols],[df.index[c] for c in indx]) 

现在我需要一种方法来获得前n个。一个天真的想法是复制数组,并随时用NaN抓取索引迭代替换顶部值。似乎效率低下。有没有更好的方法来获得numpy数组的前n个值?幸运的是,正如here所示,通过argpartition,我们必须使用扁平索引。

def topn(df,n):
    npa = df.as_matrix()   
    topn_ind = np.argpartition(npa,-n,None)[-n:] #flatend ind, unsorted
    topn_ind = topn_ind[np.argsort(npa.flat[topn_ind])][::-1] #arg sort in descending order
    cols,indx = np.unravel_index(topn_ind,npa.shape,'F') #unflatten, using column-major ordering
    return ([df.columns[c] for c in cols],[df.index[i] for i in indx]) 

在示例中尝试这个:

>>>df = pd.DataFrame([[1,2,3],[4,9,5],[6,7,8]],columns=list('abc'),index=list('def'))
>>>topn(df,3)
(['b', 'c', 'b'], ['e', 'f', 'f'])

根据需要。请注意,最初没有要求排序,但如果n不大,则提供的开销很小。

答案 2 :(得分:1)

我想你想要做的是DataFrame可能不是最佳选择,因为DataFrame中列的想法是保存独立数据。

>>> def topn(df,n):
       # pull the data ouit of the DataFrame
       # and flatten it to an array
       vals = df.values.flatten(order='F')
       # next we sort the array and store the sort mask
       p = np.argsort(vals)
       # create two arrays with the column names and indexes
       # in the same order as vals
       cols = np.array([[col]*len(df.index) for col in df.columns]).flatten()
       idxs = np.array([list(df.index) for idx in df.index]).flatten()
       # sort and return cols, and idxs
       return cols[p][:-(n+1):-1],idxs[p][:-(n+1):-1]

>>> topn(df,3)
(array(['b', 'c', 'b'], 
      dtype='|S1'),
 array(['e', 'f', 'f'], 
      dtype='|S1'))


>>> %timeit(topn(df,3))
10000 loops, best of 3: 29.9 µs per loop

watsonics解决方案需要稍微少一点

%timeit(topn(df,3))
10000 loops, best of 3: 24.6 µs per loop

但比堆栈快

def topStack(df,n):
    df = df.stack()
    df.sort(ascending=False)
    return df.head(n)

 %timeit(topStack(df,3))
 1000 loops, best of 3: 1.91 ms per loop