Go:检测gzip编码以手动解压缩响应,但是内容编码'标头丢失

时间:2017-05-19 07:57:45

标签: go http-headers cors httpresponse content-encoding

我在' Go'中使用net/http库发出HTTP GET请求。在响应中,我得到12个标题。但是当我通过邮递员运行完全相同的查询时,我得到16个标题。其中一个缺少的是内容编码'。我知道这必须是CORS问题。

但由于我没有在我的请求中设置标头Accept-Encoding: gzip,并且我仍然在回复中获得gzip编码,因此Go传输不是automatically decompressing the response for me。因此,我需要能够手动检测编码然后解压缩。但是,我无法检测“内容编码”是否包含在内容中。响应中缺少标头。

这是我尝试执行此操作的代码:

func calcDistanceAndDurationWithUberApi(originLat float64, originLon float64, destinationLat float64, destinationLon float64) (float64, float64, error) {

    endpoint := "https://api.uber.com/v1.2/estimates/price"
    parameters := fmt.Sprintf("?start_latitude=%v&start_longitude=%v&end_latitude=%v&end_longitude=%v", originLat, originLon, destinationLat, destinationLon)

    req, err := http.NewRequest("GET", endpoint + parameters, nil)
    if err != nil {
        return 0, 0, err
    }

    req.Header.Add("Authorization", "Token " + getUberApiKey())
    req.Header.Add("Accept-Language", "en_US")
    req.Header.Add("Content-Type", "application/json")

    httpClient := &http.Client{}
    resp, err := httpClient.Do(req)
    if err != nil {
        return 0, 0, err
    }
    if resp.StatusCode != 200 {
        return 0, 0, errors.NotFound("Response: %v", resp.StatusCode)
    }
    defer resp.Body.Close()

    pretty.Println("- REQUEST: ")
    pretty.Println(req)

    // Check if server sent gzipped response. Decompress if yes.
    var respReader io.ReadCloser
    switch resp.Header.Get("Content-Encoding") {
    case "gzip":
        fmt.Println("Content-Encoding is gzip")
        respReader, err = gzip.NewReader(resp.Body)
        defer respReader.Close()
    default:
        fmt.Println("Content-Encoding is Not gzip")
        respReader = resp.Body
    }

    pretty.Println("- RESPONSE HEADER: ")
    pretty.Println(resp.Header)

    pretty.Println("- RESPONSE BODY: ")
    pretty.Println(respReader)

    return 0, 0, nil
}

回复状态为“200 OK”。这是输出(响应):

- RESPONSE HEADER: 
http.Header{
    "Content-Language":          {"en"},
    "Cache-Control":             {"max-age=0"},
    "X-Uber-App":                {"uberex-nonsandbox", "optimus"},
    "Strict-Transport-Security": {"max-age=604800", "max-age=2592000"},
    "X-Content-Type-Options":    {"nosniff"},
    "Date":                      {"Fri, 19 May 2017 07:52:17 GMT"},
    "Content-Geo-System":        {"wgs-84"},
    "Connection":                {"keep-alive"},
    "X-Frame-Options":           {"SAMEORIGIN"},
    "X-Xss-Protection":          {"1; mode=block"},
    "Server":                    {"nginx"},
    "Content-Type":              {"application/json"},
}
- RESPONSE BODY: 
&http.gzipReader{
body: &http.bodyEOFSignal{
    body: &http.body{
        src: &internal.chunkedReader{
            r:  &bufio.Reader{
                buf: {0x48, 0x54, .......... }

2 个答案:

答案 0 :(得分:1)

如果您不禁用压缩 [1],并且您不手动请求压缩 使用 Accept-Encoding: gzip,然后使用我所说的“自动模式”。和 自动模式,Go 自动添加 Accept-Encoding: gzip,然后如果服务器 响应 Content-Encoding: gzip,将响应正文包装在 Gzip 阅读器中, 并删除 Content-Encoding 和 Content-Length 响应标头 [2]。一世 不同意这种做法,因为最终用户基本上是被骗了 真正的反应是什么。将此与 cURL 进行对比,后者为您提供纯粹的 回应,无论你做什么:

PS C:\> curl -v --compressed https://github.com/manifest.json
< content-encoding: gzip
< content-length: 345

为了解决这个问题,我为 http.Transport 编写了一个包装器:

package mech

import (
   "compress/gzip"
   "io"
   "net/http"
   "strings"
)

type Transport struct { http.Transport }

func (t Transport) RoundTrip(req *http.Request) (*http.Response, error) {
   if !t.DisableCompression {
      req.Header.Set("Accept-Encoding", "gzip")
   }
   res, err := t.Transport.RoundTrip(req)
   if err != nil {
      return nil, err
   }
   if strings.EqualFold(res.Header.Get("Content-Encoding"), "gzip") {
      gz, err := gzip.NewReader(res.Body)
      if err != nil {
         return nil, err
      }
      res.Body = readCloser{gz, res.Body}
   }
   return res, nil
}

type readCloser struct {
   io.Reader
   io.Closer
}
  1. https://golang.org/pkg/net/http#Transport.DisableCompression
  2. https://github.com/golang/go/blob/go1.16.5/src/net/http/transport.go#L2186-L2192

答案 1 :(得分:0)

我屈服于超级api的固执,并添加了另一个请求标题,req.Header.Add("Accept-Encoding", "gzip")

现在我收到了回复标题"Content-Encoding": "gzip",虽然我仍然得到一个难以理解的回复主体,但这超出了这个问题的范围。