pandas dataframe fillna()不工作?

时间:2016-08-28 15:02:46

标签: python pandas dataframe missing-data

我有一个数据集,我在其中执行主成分分析(PCA)。我尝试转换数据时收到ValueError消息。以下是一些代码:

import pandas as pd
import numpy as np
import matplotlib as mpl
from sklearn.preprocessing import StandardScaler
from sklearn.decomposition import PCA as sklearnPCA

data = pd.read_csv('test.csv',header=0)
X = data.ix[:,0:1000].values   # values of 1000 predictor variables
Y = data.ix[:,1000].values     # values of binary outcome variable
sklearn_pca = sklearnPCA(n_components=2)
X_std = StandardScaler().fit_transform(X)

我在这里收到以下错误消息:

ValueError: Input contains NaN, infinity or a value too large for dtype('float64').

然后我检查原始数据集是否有任何NaN值:

print(data.isnull().values.any())   # prints True
data.fillna(0)                      # replace NaN values with 0
print(data.isnull().values.any())   # prints True

即使我将NaN值替换为0,我也不明白为什么data.isnull().values.any()仍在打印True

2 个答案:

答案 0 :(得分:6)

有两种方法可以实现,尝试替换:

data.fillna(0, inplace=True)

或者,使用返回的对象:

data1 = data.fillna(0)

答案 1 :(得分:2)

您必须使用fillna

中返回的对象替换数据

小型复制品:

import pandas as pd

data = pd.DataFrame(data=[0,float('nan'),2,3])

print(data.isnull().values.any())   # prints True
data = data.fillna(0)                      # replace NaN values with 0
print(data.isnull().values.any())   # prints False now :)