我有一个Go程序,可以从多个goroutine生成大量HTTP请求。运行一段时间后,程序会发出错误:connect:无法分配请求的地址。
使用netstat
查看时,我在TIME_WAIT
中获得了一个较高的号码(28229)。
当我的goroutines数为3时,发生了大量的TIME_WAIT
套接字,并且当它为5时严重到足以导致崩溃。
我在docker下运行Ubuntu 14.4并转到版本1.7
这是围棋计划。
package main
import (
"io/ioutil"
"log"
"net/http"
"sync"
)
var wg sync.WaitGroup
var url="http://172.17.0.9:3000/";
const num_coroutines=5;
const num_request_per_coroutine=100000
func get_page(){
response, err := http.Get(url)
if err != nil {
log.Fatal(err)
} else {
defer response.Body.Close()
_, err =ioutil.ReadAll(response.Body)
if err != nil {
log.Fatal(err)
}
}
}
func get_pages(){
defer wg.Done()
for i := 0; i < num_request_per_coroutine; i++{
get_page();
}
}
func main() {
for i:=0;i<num_coroutines;i++{
wg.Add(1)
go get_pages()
}
wg.Wait()
}
这是服务器程序:
package main
import (
"fmt"
"net/http"
"log"
)
var count int;
func sayhelloName(w http.ResponseWriter, r *http.Request) {
count++;
fmt.Fprintf(w,"Hello World, count is %d",count) // send data to client side
}
func main() {
http.HandleFunc("/", sayhelloName) // set router
err := http.ListenAndServe(":3000", nil) // set listen port
if err != nil {
log.Fatal("ListenAndServe: ", err)
}
}
答案 0 :(得分:13)
默认的http.Transport过快地打开和关闭连接。由于所有连接都使用相同的主机:端口组合,因此您需要增加MaxIdleConnsPerHost
以匹配num_coroutines
的值。否则,传输将经常关闭额外的连接,只是让它们立即重新打开。
您可以在默认传输上全局设置:
http.DefaultTransport.(*http.Transport).MaxIdleConnsPerHost = numCoroutines
或者在创建自己的传输时
t := &http.Transport{
Proxy: http.ProxyFromEnvironment,
DialContext: (&net.Dialer{
Timeout: 30 * time.Second,
KeepAlive: 30 * time.Second,
}).DialContext,
MaxIdleConnsPerHost: numCoroutines,
MaxIdleConns: 100,
IdleConnTimeout: 90 * time.Second,
TLSHandshakeTimeout: 10 * time.Second,
ExpectContinueTimeout: 1 * time.Second,
}
类似的问题:Go http.Get, concurrency, and "Connection reset by peer"