RPostgreSQL将多个CSV文件加载到Postgresql表中

时间:2017-02-23 23:35:35

标签: r postgresql csv rpostgresql

我是使用Postgresql的新手,我在填充使用多个* .csv文件创建的表时遇到问题。我首先在pgAdmin4工作,然后我决定使用RPostgreSQL,因为R是我的主要语言。

无论如何,我正在处理(现在)30个位于一个文件夹中的csv文件。所有都具有相同的标题和一般结构,例如:

Y:/Clickstream/test1/video-2016-04-01_PARSED.csv
Y:/Clickstream/test1/video-2016-04-02_PARSED.csv
Y:/Clickstream/test1/video-2016-04-03_PARSED.csv

......等等。

我尝试使用Parfait中的RPostgresql特定答案加载所有csv文件。可悲的是,它没有用。我的代码如下所示:

library(RPostgreSQL)

dir = list.dirs(path = "Y:/Clickstream/test1")
num = (length(dir))

psql.connection <- dbConnect(PostgreSQL(), 
                  dbname="coursera", 
                  host="127.0.0.1", 
                  user = "postgres", 
                  password="xxxx")

for (d in dir){
  filenames <- list.files(d)

for (f in filenames){  
  csvfile <- paste0(d, '/', f)

# IMPORT USING COPY COMMAND
sql <- paste("COPY citl.courses FROM '", csvfile , "' DELIMITER ',' CSV ;")
dbSendQuery(psql.connection, sql)

  }
}

# CLOSE CONNNECTION
dbDisconnect(psql.connection)

我不理解我得到的错误:

Error in postgresqlExecStatement(conn, statement, ...) : 
RS-DBI driver: (could not Retrieve the result : ERROR:  could not open file
" Y:/Clickstream/test1/video-2016-04-01_PARSED.csv " for reading: Invalid
argument
)

如果我理解正确,我的第一个文件名称中的参数无效。我不是很确定,但我最近再次在R中使用PostgreSQL和这个RPostgreSQL。任何帮助都将非常感激。

提前致谢!

编辑:我发现了问题,但由于某些原因无法解决问题。当我在for循环中复制路径时:

# IMPORT USING COPY COMMAND
sql <- paste("COPY citl.courses FROM '",csvfile,"' DELIMITER ',' CSV ;")

我有以下结果:

sql 
[1] "COPY citl.courses FROM ' Y:/Clickstream/test1/video-2016-04-01_PARSED.csv ' DELIMITER ',' CSV ;"

这意味着无效参数是文件路径之间的空白。我试图改变这个失败的原因。任何帮助将不胜感激!

1 个答案:

答案 0 :(得分:0)

尝试这样的事情

Files <- list.files("Y:/Clickstream/test1", pattern = "*.csv", full.names = TRUE)

CSVs <- lapply(Files, read.csv)

psql.connection <- dbConnect(PostgreSQL(), 
                  dbname="coursera", 
                  host="127.0.0.1", 
                  user = "postgres", 
                  password="xxxx")


for(i in 1:length(Files)){

  dbWriteTable(psql.connection
    # schema and table
    , c("citl", "courses")
    , CSVs[i]
    , append = TRUE # add row to bottom
    , row.names = FALSE
    )

}