根据其他列中的值平均某些列

时间:2019-10-02 14:48:47

标签: python dataframe average apply calculated-columns

我想根据另一列中是否满足条件来平均某些列的值。具体来说,如果下面数据框中的第1列<1700,我想在我的平均计算中在第51列的那一行中包含相应的值。如果第2列<1700,我还希望在平均计算中将第52列的该行中的值包括在内。

因此,对于第0行,该行的新计算列将为64(平均值为65和63)。对于第1行,由于第2列和第3列均不小于1700,因此平均值仅为80(第51列的值),因此未包含在平均值计算中。

这是一个简化的示例,因为我的实际数据框大约有10列用于条件,具有10个相应的平均列值。

由于潜在的复杂性,列标题是数字而不是传统的文本标签,并且不引用数据框中该列的顺序,因为导入csv文件时我已经排除了某些列。换句话说,列51不是数据帧中的第51列。

运行以下代码时,出现以下错误:

  

ValueError :(“对象类型没有命名为1的轴”,   '发生在索引0')

是否有更有效的方法对此进行编码并避免此错误?感谢您的帮助!

import pandas as pd
import numpy as np

test_df = pd.DataFrame({1:[1600,1600,1600,1700,1800],2:[1500,2000,1400,1500,2000],
3:[2000,2000,2000,2000,2000],51:[65,80,75,80,75],52:[63,82,85,85,75],53:[83,80,75,76,78]})

test_df

     1     2     3   51  52  53
0  1600  1500  2000  65  63  83
1  1600  2000  2000  80  82  80
2  1600  1400  2000  75  85  75
3  1700  1500  2000  80  85  76
4  1800  2000  2000  75  75  78


def calc_mean_based_on_conditions(row):

        list_of_columns_to_average = []
        for i in range(1,4):
            if row[i] < 1700:
                list_of_columns_to_average.append(i+50)

        if not list_of_columns_to_average:
            return np.nan
        else:
            return row[(list_of_columns_to_average)].mean(axis=1)

test_df['MeanValue'] = test_df.apply(calc_mean_based_on_conditions, axis=1)

3 个答案:

答案 0 :(得分:2)

非常相关的内容(支持将int作为列名)-https://github.com/theislab/anndata/issues/31

由于该错误/问题,我将列名转换为字符串类型:

test_df = pd.DataFrame({'1':[1600,1600,1600,1700,1800],'2':[1500,2000,1400,1500,2000],
'3':[2000,2000,2000,2000,2000],'51':[65,80,75,80,75],'52':[63,82,85,85,75],'53': 
[83,80,75,76,78]})

创建一个新的数据框-new_df以满足要求

new_df = test_df[['1', '2', '3']].where(test_df[['1','2','3']]<1700).notnull()

new_df现在看起来像这样

       1      2      3
0   True   True  False
1   True  False  False
2   True   True  False
3  False   True  False
4  False  False  False

然后只需重命名该列并使用“ where”进行检查

new_df = new_df.rename(columns={"1": "51", "2":"52", "3":"53"})
test_df['mean_value'] = test_df[['51', '52', '53']].where(new_df).mean(axis=1)

这应该为您提供所需的输出-

    1     2     3  51  52  53  mean_value
0  1600  1500  2000  65  63  83        64.0
1  1600  2000  2000  80  82  80        80.0
2  1600  1400  2000  75  85  75        80.0
3  1700  1500  2000  80  85  76        85.0
4  1800  2000  2000  75  75  78         NaN

答案 1 :(得分:1)

我删除了其他答案,因为它走错了路。您要做的是生成条件列的掩码,然后使用该掩码将函数应用于其他列。在这种情况下,1对应51,2对应52,等等。

import pandas as pd
import numpy as np

test_df = pd.DataFrame({1:[1600,1600,1600,1700,1800],2:[1500,2000,1400,1500,2000],
3:[2000,2000,2000,2000,2000],51:[65,80,75,80,75],52:[63,82,85,85,75],53:[83,80,75,76,78]})

test_df

     1     2     3   51  52  53
0  1600  1500  2000  65  63  83
1  1600  2000  2000  80  82  80
2  1600  1400  2000  75  85  75
3  1700  1500  2000  80  85  76
4  1800  2000  2000  75  75  78



# create dictionary to map columns to one another
l1=list(range(1,4))
l2=list(range(50,54))
d = {k:v for k,v in zip(l1,l2)}

d
{1: 51, 2: 52, 3: 53}

temp=test_df[l1] > 1700 # Subset initial dataframe, generate mask
for _, row in temp.iterrows(): #iterate through subsetted data
    list_of_columns_for_mean=list() # list of columns for later computation
    for k, v in d.items(): #iterate through each k:v and evaluate conditional for each row
        if row[k]:
            list_of_columns_for_mean.append(v)
            # the rest should be pretty easy to figure out

这不是一个很好的解决方案,但它是一个解决方案。不幸的是,我已经花了很多时间来致力于它,但是希望这可以使您指向更好的方向。

答案 2 :(得分:1)

可能有更好的矢量化方法,但是您可以不用功能

import numpy as np
import pandas as pd
from collections import defaultdict

test_df = pd.DataFrame({1:[1600,1600,1600,1700,1800],2:[1500,2000,1400,1500,2000],
3:[2000,2000,2000,2000,2000],51:[65,80,75,80,75],52:[63,82,85,85,75],53:[83,80,75,76,78]})

# List of columns that you're applying the condition to
condition_cols = list(range(1,4))

# Get row and column indices where this condition is true
condition = np.where(test_df[condition_cols].lt(1700))

# make a dictionary mapping row to true columns
cond_map = defaultdict(list)
for r,c in zip(*condition):
    cond_map[r].append(c)

# Get the means of true columns
means = []
for row in range(len(test_df)):
    if row in cond_map:
        temp = []
        for col in cond_map[row]:
            # Needs 51 because of Python indexing starting at zero + 50
            temp.append(test_df.loc[row, col+51])
        means.append(temp)
    else:
        # If the row has no true columns (i.e row 4)
        means.append(np.nan)

test_df['Means'] = [np.mean(l) for l in means]   

问题在于以矢量化方式为真实的行列编制索引。