Question

我正在使用pandas和Python3.4操纵数据。我遇到了特定csv文件的问题。我不知道为什么，即使使用nan值，pandas通常会将列读为float。在这里它将它们读作string。这是我的csv文件的样子：

Date        RR  TN  TX
08/10/2015  0   10.5    19.5
09/10/2015  0   5.5 20
10/10/2015  0   5   24
11/10/2015  0.5 7   24.5
12/10/2015  3   12  23
...
27/04/2017           
28/04/2017           
29/04/2017           
30/04/2017           
01/05/2017           
02/05/2017           
03/05/2017           
04/05/2017

问题是我无法将其转换为float，因为最后的nan值。我需要float，因为我正在尝试TN + TX。这是我到目前为止所尝试的：

阅读文件时：

dfs[code] = pd.read_csv(path, sep = ';', index_col = 0, parse_dates = True, encoding = 'ISO-8859-1', dtype = float)

我也尝试过：

dtype = {
    'TN': np.float,
    'TX': np.float
}
dfs[code] = pd.read_csv(path, sep = ';', index_col = 0, parse_dates = True, encoding = 'ISO-8859-1', dtype = dtype)

否则，在执行添加的那一刻，我也尝试过：

tn = dfs[code]['TN'].astype(float)
tx = dfs[code]['TX'].astype(float)
formatted_dfs[code] = tn + tx

但我总是得到同样的错误：

ValueError: could not convert string to float.

我知道我可以逐行进行，测试值是否为nan，但我很确定有一种更简单的方法。你知道怎么做吗？或者我必须一行一行吗？感谢。

Answer 1

你可以看到，如果你允许pandas自己检测dtypes，你可以避免使用ValueError并发现潜在的问题。

In [4]: df = pd.read_csv(path, sep=';', index_col=0, parse_dates=True, low_memory=False)
In [5]: df
Out[5]:
Empty DataFrame
Columns: []
Index: [08/10/2015  0   10.5    19.5, 09/10/2015  0   5.5 20, 10/10/2015  0   5   24, 11/10/2015  0.5 7   24.5, 12/10/2015  3   12  23, 27/04/2017           , 28/04/2017           , 29/04/2017           , 30/04/2017           , 01/05/2017           , 02/05/2017           , 03/05/2017           , 04/05/2017   ]

您似乎意外地将分隔符指定为';'，因为您的文件是以空格分隔的。由于没有任何分号，所以整行都被读入索引。

首先，尝试使用正确的分隔符

读取文件

df = pd.read_csv(path, delim_whitespace=True, index_col=0, parse_dates=True, low_memory=False)

现在，有些行的数据不完整。概念上，一个简单的解决方案是尝试将值转换为np.float，否则将其替换为np.nan。

def f(x):
    try:
        return np.float(x)
    except:
        return np.nan

df["TN"] = df["TN"].apply(f)
df["TX"] = df["TX"].apply(f)

print(df.dtypes)

根据需要返回

RR     object
TN    float64
TX    float64
dtype: object

Answer 2

在读取方法中添加转换参数-converters = {'TN'：float，'TX'：float}

dfs[code] = pd.read_csv(path, sep = ';',converters={'TN':float,'TX':float}, index_col = 0, parse_dates = True, encoding = 'ISO-8859-1', dtype = float)

将pandas DataFrame中的列转换为具有nan值的float

2 个答案: