从sybase数据库批量加载到HDFS

时间:2015-12-29 06:14:30

标签: sybase sqoop sybase-iq

我需要将数据从sybase(生产数据库)加载到HDFS。通过使用sqoop,它需要很长时间并经常访问生产数据库。所以,我正在考虑从sybase转储创建数据文件,然后将数据文件复制到hdfs。是否有任何工具(开源)可用于从sybase转储创建所需的数据文件(平面文件)。

谢谢,

1 个答案:

答案 0 :(得分:1)

iq_bcp命令行实用程序旨在基于每个表执行此操作。您只需要生成一个表列表,然后就可以遍历列表。

  

iq_bcp [[database_name。 ]老板。 ] table_name {in | out} datafile

iq_bcp MyDB..MyTable out MyTable.csv -c -t#$#

-c指定字符(明文)输出 -t允许您自定义列分隔符。您将需要使用未在您的联系人中出现的字符或一系列字符,例如如果您的文本列包含带逗号的文本,则无需额外工作即可导入csv。

Sybase IQ: iq_bcp