向后插入值到Pandas Dataframe(高索引到低)

时间:2016-04-27 11:22:37

标签: python pandas

使用.fillna

找到解决方案

你可以猜到,我的头衔已经让人困惑,我也是! 我有这样的数据框

Index         Values
 0             NaN
 1             NaN
...................
230            350.21
231            350.71
...................
1605           922.24

在230到1605之间,我有值,但不是前229个条目。因此,我计算了斜率以近似丢失的数据,并将其存储在'斜率'。

Y1 = df['Values'].min()
X1ID = df['Values'].idxmin()
Y2 = df['Values'].max()
X2ID = df['Values'].idxmax()
slope = (Y2 - Y1)/(X2ID - X1ID)

本质上我想从值中获取.min,减去斜率并在前一个.min之前的索引中插入新值。但是,我完全迷失了,我尝试过这样的事情:

 df['Values2'] = df['Values'].min().apply(lambda x: x.min() - slope) 

但这显然是垃圾。我非常感谢一些建议

修改

因此,在尝试了多种方法之后,我找到了一个至少适合我的原始解决方案。

loopcounter = 0
missingValue = []
missingindex = []
missingindex.append(loopcounter)
missingValue.append(Y1)
for minValue in missingValue:
    minValue = minValue-slopeave
    missingValue.append(minwavelength)
    loopcounter +=1
    missingindex.append(loopcounter)
    if loopcounter == 230:
         break
del missingValue[0]
missingValue.reverse()
del missingindex[-1]

首先我创建了两个列表,一个是缺失值,另一个是索引。 之后我将最小值(Y1)添加到列表中并开始循环。 我希望循环在230次之后停止(缺少值的数量) 每个循环都会从列表中的项目中减去斜率,从最小值开始,同时将计数器添加到missingindex列表中。

删除第一个值并反转顺序会将列表转换为正确的顺序。

missValue = dict(zip(missingindex,missingValue))

然后我将两个列表合并为一个字典

df['Values'] = df['Values'].fillna(missValue)

之后我使用.fillna函数用字典填充我的数据框。

这对我有用,我知道它可能不是最优雅的解决方案......

我要感谢所有投入时间帮助我的人,非常感谢。

3 个答案:

答案 0 :(得分:2)

检查一下。但是,我觉得你必须把这个循环,因为插入和分钟计算必须重新计算

import pandas as pd
import numpy as np

df = pd.DataFrame(columns=('Values',),data=
                    [
                        np.nan,
                        np.nan,
                        350.21,
                        350.71,
                        922.24
                    ])

Y1 = df['Values'].min()
X1ID = df['Values'].idxmin()
Y2 = df['Values'].max()
X2ID = df['Values'].idxmax()
slope = (Y2 - Y1)/(X2ID - X1ID)

line = pd.DataFrame(data=[Y1-slope], columns=('Values',), index=[X1ID])
df2 = pd.concat([df.ix[:X1ID-1], line, df.ix[X1ID:]]).reset_index(drop=True)
print df2

此处提供了插入逻辑Is it possible to insert a row at an arbitrary position in a dataframe using pandas?

答案 1 :(得分:1)

我认为您可以loc使用interpolate

print df
       Values
Index        
0         NaN
1         NaN
2         NaN
3         NaN
4         NaN
5         NaN
6         NaN
229       NaN
230    350.21
231    350.71
1605   922.24

#add value 0 to index = 0
df.at[0, 'Values'] = 0
#add value Y1 - slope (349.793978) to max NaN value 
df.at[X1ID-1, 'Values'] = Y1 - slope
print df
           Values
Index            
0        0.000000
1             NaN
2             NaN
3             NaN
4             NaN
5             NaN
6             NaN
229    349.793978
230    350.210000
231    350.710000
1605   922.240000
print df.loc[0:X1ID-1, 'Values']
Index
0        0.000000
1             NaN
2             NaN
3             NaN
4             NaN
5             NaN
6             NaN
229    349.793978
Name: Values, dtype: float64

#filter values by indexes and interpolate
df.loc[0:X1ID-1, 'Values'] = df.loc[0:X1ID-1, 'Values'].interpolate(method='linear')
print df
           Values
Index            
0        0.000000
1       49.970568
2       99.941137
3      149.911705
4      199.882273
5      249.852842
6      299.823410
229    349.793978
230    350.210000
231    350.710000
1605   922.240000

答案 2 :(得分:1)

我会稍微修改一下:

DEFINER

修改

或尝试将其置于如下的循环中。这将递归填充所有值,直到它到达系列的末尾:

df['Values2'] = df['Values']
df.ix[df.Values2.isnull(), 'Values2'] = (Y1 - slope)

这样称呼:

def fix_rec(series):
    Y1 = series.min()
    X1ID = series.idxmin() ##; print(X1ID)
    Y2 = series.max()
    X2ID = series.idxmax()
    slope = (Y2 - Y1) / (X2ID - X1ID);

    if X1ID == 0: ## termination condition
        return series

    series.loc[X1ID-1] = Y1 - slope

    return fix_rec(series)

我希望有所帮助!