使用原始https请求将AWS AWS API网关服务代理转换为S3文件上载

时间:2016-06-21 10:36:34

标签: amazon-s3 rust aws-api-gateway hyper

首先,对于长标题感到抱歉。

我已经设置了api网关作为s3代理,因此我可以通过向api url发送PUT请求来上传文件。 api工作正常(或者至少我认为它确实如此),但似乎我只能正确上传文本文件。

对于上传的文本文件(例如,Content-Type = text / plain),本地文件的大小与上传到s3存储桶的文件大小相同。但是,二进制文件不是这种情况(例如,Content-Type = application / pdf)。 s3存储桶中的文件大小更大。当我从s3下载二进制文件时,我无法打开它们,它们已损坏。

以下是发送请求的防锈代码,我使用hyper's http client

match File::open(file.as_path()) {
        Err(_) => Err("Failed to open file".to_owned()),
        Ok(mut openned_file) => {
            let file_mime = mime_guess::guess_mime_type(file.as_path());
            let connector = HttpsConnector::new(OpensslClient::default());
            let url_str = format!("https://my.api.com/upload/{}",
                                file.file_name().unwrap().to_str().unwrap());
            let mut client =
                Request::with_connector(Method::Put, Url::parse(&url_str).unwrap(), &connector)
                    .unwrap();
            client.headers_mut().set(ContentType(file_mime.clone()));
            // client.headers_mut().set(ContentLength(openned_file.metadata().unwrap().len()));
            let file_mime_str = file_mime.to_string();
            let mut buffer: [u8; 4096] = [0; 4096];
            let mut uploaded: usize = 0;
            let request = match file_mime {
                Mime(TopLevel::Text, _, _) |
                Mime(TopLevel::Application, SubLevel::Javascript, _) => {
                    let mut request = client.start().unwrap();
                    println!("Uploading text ...", );
                    while let Ok(read_count) = openned_file.read(&mut buffer) {
                        if read_count > 0 {
                            println!("Uploading {} bytes", read_count);
                            request.write_all(&buffer[0..read_count]);
                            uploaded += read_count;
                        } else {
                            request.flush();
                            println!("File mime: {}", file_mime_str);
                            println!("File size: {}, Total uploaded: {}",
                                     openned_file.metadata().unwrap().len(),
                                     uploaded);
                            break;
                        }
                    }
                    request
                }
                _ => {
                    // client.headers_mut()
                    //     .set_raw("Content-Encoding", vec![b"base64".to_vec()]);
                    let mut request = client.start().unwrap();

                    let mut config = MIME;
                    config.line_length = None;
                    println!("Uploading binary ...", );
                    while let Ok(read_count) = openned_file.read(&mut buffer) {
                        if read_count > 0 {
                            println!("Uploading {} bytes", read_count);
                            request.write_all(&buffer[0..read_count]);
                            // let base64_str = buffer[0..read_count].to_base64(STANDARD);
                            // request.write_all(base64_str.into_bytes().as_slice());
                            uploaded += read_count;
                        } else {
                            request.flush();
                            println!("File mime: {}", file_mime_str);
                            println!("File size: {}, Total uploaded: {}",
                                     openned_file.metadata().unwrap().len(),
                                     uploaded);
                            break;
                        }
                    }
                    request
                }
            };

            match request.send() {
                Err(err) => Err(format!("{}", err)),
                Ok(mut response) => {
                    let mut rep_str = String::new();
                    response.read_to_string(&mut rep_str);
                    Err(format!("{}", rep_str))
                }
            }

从注释掉的代码中可以看出,我尝试使用Content-Encoding = base64并编码从文件中读取的字节进行上传。但是Content-Encoding = base64似乎不是s3接受的有效编码类型。每当我设置Content-Encoding时,我都无法完全上传(500:内部服务器错误,我甚至无法在s3存储桶上看到错误大小的文件)。但是文本文件工作得很好。

供参考:

1 个答案:

答案 0 :(得分:1)

不幸的是,此时API网关不支持二进制有效负载。这是一个常见的功能请求,因此它存在于我们的待办事项中,尽管我们无法对发布日期发表评论。我们一定会在功能发布后更新这篇文章。