我想指定执行pandas.read_sql时返回的dtypes。特别是我有兴趣保存内存并将浮点值返回为np.float32而不是np.float64。我知道我之后可以使用astype(np.float32)进行转换,但这并不能解决初始查询中大内存需求的问题。在我的实际代码中,我将提取8400万行,而不是这里显示的5行。 pandas.read_csv允许将dtypes指定为dict,但我认为使用read_sql无法做到这一点。
我正在使用MySQLdb和Python 2.7。
顺便说一句,read_sql在运行时(大约2x)似乎比最终的DataFrame存储需要更多的内存。
In [70]: df=pd.read_sql('select ARP, ACP from train where seq < 5', connection)
In [71]: df
Out[71]:
ARP ACP
0 1.17915 1.42595
1 1.10578 1.21369
2 1.35629 1.12693
3 1.56740 1.61847
4 1.28060 1.05935
In [72]: df.dtypes
Out[72]:
ARP float64
ACP float64
dtype: object
答案 0 :(得分:1)
cast()和convert()怎么样?
'SELECT cast(ARP as float32()), cast (ACP as float32()) from train where seq < 5'
或类似的东西。
http://www.smallsql.de/doc/sql-functions/system/convert.html
答案 1 :(得分:0)
在this github问题中看一下,看起来他们倾向于添加该选项。