Golang优化HTTP并发请求技巧

通过调优Transport、设置合理超时、控制并发量并复用客户端实例，可显著提升Golang HTTP客户端性能；关键措施包括：复用http.Client避免资源浪费，配置MaxIdleConns、MaxIdleConnsPerHost和IdleConnTimeout以优化连接池，设置DialContext、ResponseHeaderTimeout和Client级Timeout防止goroutine泄漏，使用channel或semaphore限制并发，启用gzip压缩并确保resp.Body被完全读取或关闭以实现连接复用。

在高并发场景下，Golang的http.Client默认配置往往无法发挥最佳性能。连接复用不足、超时设置不合理、资源未及时释放等问题会导致请求延迟升高、连接耗尽甚至服务崩溃。通过合理调优Transport、控制超时、限制并发量并复用客户端实例，可以显著提升HTTP客户端的吞吐能力和稳定性。

重用http.Client和自定义Transport

频繁创建http.Client会浪费资源，每个客户端都维护独立的连接池。应全局复用同一个Client实例，并定制底层Transport以支持长连接复用。

关键在于配置Transport中的连接池参数：

• MaxIdleConns：控制最大空闲连接数，避免重复建连开销
• MaxIdleConnsPerHost：限制对单个目标主机的空闲连接数量，防止过多连接堆积
• IdleConnTimeout：设置空闲连接存活时间，过长可能导致服务端主动关闭

client := &http.Client{
    Transport: &http.Transport{
        MaxIdleConns:        100,
        MaxIdleConnsPerHost: 20,
        IdleConnTimeout:     90 * time.Second,
    },
    Timeout: 30 * time.Second,
}

合理设置超时避免goroutine泄漏

未设置超时或仅使用net.Dialer.Timeout不足以控制整体请求生命周期。必须为整个请求过程设定明确时限，防止因网络异常导致goroutine长时间阻塞。

建议同时配置以下三个超时项：

• DialContext Timeout：建立TCP连接的最大时间
• ResponseHeaderTimeout：等待响应头返回的时间，防止慢响应拖累整体性能
• Timeout in http.Client：总超时时间，涵盖DNS、连接、写入、读取全过程

transport := &http.Transport{
    DialContext: (&net.Dialer{
        Timeout:   5 * time.Second,
        KeepAlive: 30 * time.Second,
    }).DialContext,
    ResponseHeaderTimeout: 5 * time.Second,
}

控制并发量防止资源耗尽

无限并发容易压垮本地文件描述符限制或远端服务。应通过带缓冲的channel或semaphore控制最大并发请求数。

常见做法是使用固定大小的goroutine池配合worker模式：

• 用channel作为信号量，每发起一个请求获取一个token
• 请求完成或失败后归还token，允许下一个请求执行
• 结合context.WithTimeout实现请求级超时控制

sem := make(chan struct{}, 50) // 最大并发50
for _, url := range urls {
    sem <- struct{}{}
    go func(u string) {
        defer func() { <-sem }
        resp, err := client.Get(u)
        if err != nil {
            log.Printf("req failed: %v", err)
            return
        }
        defer resp.Body.Close()
        // 处理响应
    }(url)
}

启用压缩与正确处理响应体

忽略响应体读取会导致连接无法复用，即使设置了Content-Length也可能占用连接槽位。所有resp.Body必须被显式读取或关闭。

对于大响应体，可启用gzip压缩减少传输体积：

• 请求头添加Accept-Encoding: gzip
• 使用compress/gzip解压Body内容
• 读取完成后调用resp.Body.Close()释放连接

若无需响应内容，仍需消费整个Body以触发连接回收：

_, _ = io.Copy(io.Discard, resp.Body)
resp.Body.Close()

基本上就这些。调优核心是连接复用、超时防护和并发控制。只要不忽略Transport配置、不遗漏Body关闭、不限制并发，Golang的HTTP客户端在万级QPS下也能稳定运行。