将包含NaN值的整个Pandas数据帧从string转换为float

时间:2016-03-11 20:34:40

标签: python pandas nan

我想将pandas数据帧中的所有值从字符串转换为浮点数。我的数据帧包含各种NaN值(例如NaN,NA,None)。例如,

import pandas as pd
import numpy as np

my_data = np.array([[0.5, 0.2, 0.1], ["NA", 0.45, 0.2], [0.9, 0.02, "N/A"]])
df = pd.DataFrame(my_data, dtype=str)

我找到了herehere(以及其他地方)convert_objects可能是要走的路。但是,我收到一条消息,它已被弃用(我使用的是Pandas 0.17.1),而应使用to_numeric。

df2 = df.convert_objects(convert_numeric=True)

输出:

FutureWarning: convert_objects is deprecated.  Use the data-type specific converters pd.to_datetime, pd.to_timedelta and pd.to_numeric.

但to_numeric似乎并没有真正转换字符串。

df3 = pd.to_numeric(df, errors='force')

输出:

df2:
     0     1    2
0  0.5  0.20  0.1
1  NaN  0.45  0.2
2  0.9  0.02  NaN

df2 dtypes:
0    float64
1    float64
2    float64
dtype: object

df3:
     0     1    2
0  0.5   0.2  0.1
1   NA  0.45  0.2
2  0.9  0.02  N/A

df3 dtypes:
0    object
1    object
2    object
dtype: object

我应该使用convert_objects并处理警告消息,还是有正确的方法来执行我想要的to_numeric?

2 个答案:

答案 0 :(得分:2)

奇怪的是,这有效:

In [11]:
df.apply(lambda x: pd.to_numeric(x, errors='force'))

Out[11]:
     0     1    2
0  0.5  0.20  0.1
1  NaN  0.45  0.2
2  0.9  0.02  NaN

似乎由于某种原因它无法强制整个df,这有点令人惊讶

如果您不喜欢打字(感谢@Zero),那么您可以使用:

df.apply(pd.to_numeric, errors='force')

答案 1 :(得分:1)

您可以尝试replaceastype

import pandas as pd
import numpy as np

my_data = np.array([[0.5, 0.2, 0.1], ["NA", 0.45, 0.2], [0.9, 0.02, "N/A"]])
df = pd.DataFrame(my_data, dtype=str)

print df.replace({r'N': np.nan}, regex=True).astype(float)
     0     1    2
0  0.5  0.20  0.1
1  NaN  0.45  0.2
2  0.9  0.02  NaN