将pandas(字符串/对象)列保存为Oracle DB中的VARCHAR而不是CLOB(默认行为)

时间:2016-09-15 06:27:54

标签: python python-3.x pandas dataframe

我正在尝试将数据帧传输到oracle数据库,但传输时间过长,因为变量的数据类型在oracle中显示为 clob 。但是我相信如果我将数据类型从 clob 转换为 9位的字符串填充0 ,则不会花费那么多时间。数据是

product
000012320
000234234

有没有办法将此变量的数据类型更改为9位数的字符串。这样oracle就不会把它当作CLOB对象。我尝试了以下内容。

df['product']=df['product'].astype(str)

还是有什么东西可能会减慢从python到oracle的转移?

2 个答案:

答案 0 :(得分:5)

这是一个演示:

import cx_Oracle
from sqlalchemy import types, create_engine
engine = create_engine('oracle://user:password@host_or_scan_address:1521:ORACLE_SID')
#engine = create_engine('oracle://user:password@host_or_scan_address:1521/ORACLE_SERVICE_NAME')

In [32]: df
Out[32]:
           c_str  c_int   c_float
0        aaaaaaa      4  0.046531
1            bbb      6  0.987804
2  ccccccccccccc      7  0.931600

In [33]: df.to_sql('test', engine, index_label='id', if_exists='replace')

在Oracle DB中:

SQL> desc test
 Name                Null?    Type
 ------------------- -------- -------------
 ID                           NUMBER(19)
 C_STR                        CLOB
 C_INT                        NUMBER(38)
 C_FLOAT                      FLOAT(126)

现在让我们指定一个SQLAlchemy dtype:'VARCHAR(max_length_of_C_STR_column)':

In [41]: df.c_str.str.len().max()
Out[41]: 13

In [42]: df.to_sql('test', engine, index_label='id', if_exists='replace',
   ....:           dtype={'c_str': types.VARCHAR(df.c_str.str.len().max())})

在Oracle DB中:

SQL> desc test
 Name            Null?    Type
 --------------- -------- -------------------
 ID                       NUMBER(19)
 C_STR                    VARCHAR2(13 CHAR)
 C_INT                    NUMBER(38)
 C_FLOAT                  FLOAT(126)

PS用0填充你的字符串请检查@piRSquared's answer

答案 1 :(得分:0)

使用str.zfill

df['product'].astype(str).str.zfill(9)

0    000012320
1    000234234
Name: product, dtype: object