我有一个数据框:
0 1 2 3 4 y
35 NaN NaN NaN NaN 0.342153 0
40 NaN 0.326323 NaN NaN NaN 0
43 NaN NaN 0.290126 NaN NaN 0
49 NaN 0.326323 NaN NaN NaN 0
50 NaN 0.391147 NaN NaN NaN 1
生成它的代码:
import pandas as pd
import numpy as np
nan = np.nan
df = pd.DataFrame(
{0L: {35: nan, 40: nan, 43: nan, 49: nan, 50: nan},
1L: {35: nan,
40: 0.32632316859446198,
43: nan,
49: 0.32632316859446198,
50: 0.39114724480578139},
2L: {35: nan, 40: nan, 43: 0.29012581014105987, 49: nan, 50: nan},
3L: {35: nan, 40: nan, 43: nan, 49: nan, 50: nan},
4L: {35: 0.34215328467153283, 40: nan, 43: nan, 49: nan, 50: nan},
'y': {35: 0, 40: 0, 43: 0, 49: 0, 50: 1}})
我需要使用以下伪代码为每列分配一个值:
column = 1 if column > threshold else 0 where column != NaN
我尝试使用花式索引来实现这一点:
df.ix[df[1].notnull(),1] = 1; df
0 1 2 3 4 y
35 NaN NaN NaN NaN 0.342153 0
40 NaN 1 NaN NaN NaN 0
43 NaN NaN 0.290126 NaN NaN 0
49 NaN 1 NaN NaN NaN 0
50 NaN 1 NaN NaN NaN 1
但是A)我不确定如何应用条件逻辑和B)我必须迭代地将逻辑应用于每一列而不是整个数据帧。
问题:
如何将条件逻辑应用于数据帧的非空值,保留其他字段的无效?
答案 0 :(得分:5)
# you need this because your y column is an int64 (otherwise this the next step
# will throw an exception), on the to fix list in 0.11-dev though
In [71]: df = orig_df.astype('float64')
# use boolean indexing!
# NaN are automatically excluded
In [72]: df[df>0.3] = 1 ; df[df<=0.3] = 0
In [73]: df
Out[73]:
0 1 2 3 4 y
35 NaN NaN NaN NaN 1 0
40 NaN 1 NaN NaN NaN 0
43 NaN NaN 0 NaN NaN 0
49 NaN 1 NaN NaN NaN 0
50 NaN 1 NaN NaN NaN 1
答案 1 :(得分:3)
你可以使用applymap
,因为你似乎真的想要一个元素操作:
>>> df.applymap(lambda x: x if pd.isnull(x) else (1 if x > 0.3 else 0))
0 1 2 3 4 y
35 NaN NaN NaN NaN 1 0
40 NaN 1 NaN NaN NaN 0
43 NaN NaN 0 NaN NaN 0
49 NaN 1 NaN NaN NaN 0
50 NaN 1 NaN NaN NaN 1
虽然在这种特殊情况下我们可以作弊(两次):
>>> (df > 0.3) * 1 + df * 0
0 1 2 3 4 y
35 NaN NaN NaN NaN 1 0
40 NaN 1 NaN NaN NaN 0
43 NaN NaN 0 NaN NaN 0
49 NaN 1 NaN NaN NaN 0
50 NaN 1 NaN NaN NaN 1
答案 2 :(得分:1)
您正在寻找的是iterrows()
方法。 pandas documentation
我不能100%确定您尝试使用伪代码完成的任务,但以下内容将修改新系列(可以分配给数据框)。
updated = df['data']
for index, row in df.iterrows():
if ((not pd.isnull(df[index])) and df[index] > threshold) :
updated[index] = 1.0
else:
updated[index] = 0.0
df['data'] = updated
它很可能会给你一个关于迭代器中赋值的SettingWithCopyWarning
警告,所以请谨慎使用。