Question

我有一个手动过程，我通过curl将5-6 GB文件上传到网络服务器：

curl -X POST --data-binary @myfile.csv http://myserver::port/path/to/api

这个过程运行正常，但我喜欢用R自动化它。问题是，我要么不知道我在做什么，要么curl的R库不知道如何处理更大的文件比~2GB：

library(RCurl)
postForm(
     "http://myserver::port/path/to/api",
      file = fileUpload(
        filename = path.expand("myfile.csv"),
        contentType = "text/csv"
      ),.encoding="utf-8")

Yeilds Error: Internal Server Error

httr也不起作用：

library(httr)
POST(
      url = "http://myserver:port/path/to/api",
      body = upload_file(
        path =  path.expand("myfile.csv"),
        type = 'text/csv'),
      verbose()
    )

哪个收益率：

Response [http://myserver:port/path/to/api]
  Date: 2015-06-30 11:11
  Status: 400
  Content-Type: <unknown>
<EMPTY BODY>

httr对verbose()选项提供了更多信息，告诉我：

-> POST http://myserver:port/path/to/api
-> User-Agent: libcurl/7.35.0 r-curl/0.9 httr/1.0.0
-> Host: http://myserver::port
-> Accept-Encoding: gzip, deflate
-> Accept: application/json, text/xml, application/xml, */*
-> Content-Type: text/csv
-> Content-Length: -2147483648
-> Expect: 100-continue
-> 
<- HTTP/1.1 400 Bad Request
<- Server: Apache-Coyote/1.1
<- Transfer-Encoding: chunked
<- Date: Tue, 30 Jun 2015 11:11:11 GMT
<- Connection: close
<-

Content-Length: -2147483648看起来很像32位整数溢出，所以我认为这是httr中的一个错误。我怀疑RCurl正在经历类似的失败。

我真的很喜欢curl -X POST --data-binary周围的最小包装，但除此之外，从R上传相当大的文件有哪些选择？

Answer 1

此错误已在httr / curl的开发版本中修复：

devtools::install_github("jeroenooms/curl")
devtools::install_github("hadley/httr")

这是R的httr和curl个软件包中的错误。自2015年7月2日起，错误已发生fixed on GitHub，此更改很快将推广到CRAN。

我也可能在上面的命令中错误地调用RCurl，但我永远无法找到正确的调用。

在R中上传超过2.15 GB的文件

1 个答案: