Akka HTTP多文件上传到S3

时间:2018-03-12 06:18:24

标签: scala amazon-s3 akka akka-stream akka-http

我正在开发一个API,用Akka HTTP将多个文件上传到S3。我目前正在使用fileUploadAll指令,它将所有文件缓冲到磁盘。这限制了可以处理的文件的大小。有替代方法吗?我还能如何处理多部分/表单数据请求?

1 个答案:

答案 0 :(得分:4)

这是一个简单的示例,它采用文件路径列表,将列表转换为单个Source[ByteString, _],并使用Alpakka S3 connector Source运行Sink上传数据到S3:

val paths = List(Paths.get("/path/to/file1"), Paths.get("/path/to/file2"))
val source: Source[ByteString, _] = Source(paths).flatMapConcat(FileIO.fromPath(_))

// read the Alpakka documentation about setting up a S3 client and sink
val s3Sink: Sink[ByteString, Future[MultipartUploadResult]] = ???

val fut: Future[MultipartUploadResult] = source.runWith(s3Sink)

您可以将fut与Akka HTTP路由中的future directives之一一起使用。

如上所述,上述方法创建了一个Source。如果您需要为每个文件使用不同的存储桶和密钥,则可以为每个文件启动单独的流:

val source1: Source[ByteString, _] = FileIO.fromPath(Paths.get("/path/to/file1"))
val source2: Source[ByteString, _] = FileIO.fromPath(Paths.get("/path/to/file2")

val s3Sink1: Sink[ByteString, Future[MultipartUploadResult]] = ???
val s3Sink2: Sink[ByteString, Future[MultipartUploadResult]] = ???

val fut1: Future[MultipartUploadResult] = source1.runWith(s3Sink1)
val fut2: Future[MultipartUploadResult] = source2.runWith(s3Sink2)

val fut: Future[List[MultipartUploadResult]] = Future.sequence(List(fut1, fut2))