仅在单个NaN时插值

时间:2017-03-28 18:24:18

标签: python pandas numpy scipy

pandas中是否有方法只插入单个缺失数据点?也就是说,如果有2个以上的连续NaN,我想留下它们。

所以,举个例子:

s = pd.Series([1, None, 2, 3, None, None, 4.5])
d.interpolate(limit=1)

给了我:

[ 1.0, 1.5, 2.0, 3.0, 3.5, NaN, 4.5 ]

但我想

[ 1.0, 1.5, 2.0, 3.0, NaN, NaN, 4.5 ]

如果有帮助,我有一个只有一个缺失值的索引列表。

2 个答案:

答案 0 :(得分:5)

我的意见是,这将是一个包含在interpolate中的强大功能 也就是说,这可以归结为掩盖存在多个np.nan的地方。我会在一个方便的函数中用一些numpy逻辑包装它。

def cnan(s):
    v = s.values
    k = v.size
    n = np.append(np.isnan(v), False)
    m = np.empty(k, np.bool8)
    m.fill(True)
    i = np.where(n[:-1] & n[1:])[0] + np.arange(2)
    m[i[i < k]] = False
    return m

s.interpolate().where(cnan(s))

0    1.0
1    1.5
2    2.0
3    3.0
4    NaN
5    NaN
6    4.5
dtype: float64

对于那些对使用高级numpy技术的一般解决方案感兴趣的人

import pandas as pd
import numpy as np
from numpy.lib.stride_tricks import as_strided as strided

def mask_knans(a, x):
    a = np.asarray(a)
    k = a.size
    n = np.append(np.isnan(a), [False] * (x - 1))
    m = np.empty(k, np.bool8)
    m.fill(True)

    s = n.strides[0]
    i = np.where(strided(n, (k + 1 - x, x), (s, s)).all(1))[0][:, None]
    i = i + np.arange(x)
    i = pd.unique(i[i < k])

    m[i] = False

    return m

演示

a = np.array([1, np.nan, np.nan, np.nan, 3, np.nan, 4, 5, np.nan, np.nan, 6, 7])

print(mask_knans(a, 3))

[ True False False False  True  True  True  True  True  True  True  True]

答案 1 :(得分:2)

s[(s.shift(-1).notnull()) & (s.shift(1).notnull())] = (s.shift(-1) + s.shift(1))/2

实际上,

s[s.isnull()] = (s.shift(-1) + s.shift(1))/2

也适用,如果您正在进行简单的插值。