隧道转发爬虫代理加强版知识点（3）

爬虫代理加强版：

亿牛云爬虫代理IP”通过固定云代理服务地址，建立专线网络链接，代理平台自动实现海量IP池管理及负载均衡，实时无感的毫秒级代理IP切换，提供企业级云服务的网络稳定性及请求响应速度，同时降低了客户端运算负载压力，避免了爬虫客户在代理IP策略优化上投入精力，整体提升了爬虫效率

爬虫代理知识点：

出现HTTP的408错误：

大量http的408错误，为网速过慢导致的请求超时，需要检查用户带宽是否充足，目标网站是否过慢。

爬虫代理的数据缓存及网络延迟：

为了提高客户的爬虫采集效率，降低目标服务器的反爬风险，爬虫代理关闭了目标服务器的缓存特性，每一次用户请求都真实进行转发，避免了服务器或防火墙因为反爬而出现的返回缓存数据，从而导致采集数据失真的情况。

当研发进行爬虫代理对比测试的时候，可能会发现一个现象，亿牛云的代理每次请求的延迟都很稳定，而部分同行的产品会出现第一次HTTP请求延迟很高，接下来大量的请求延迟非常低（甚至低于服务器响应时间）的假象，

下面图的情况就是代理服务器缓存了数据，然后爬虫程序请求相同链接的时候，会出现重复数据并且延迟很低的情况，这种情况下爬虫程序难以分辨是不是目标服务器反爬策略引起的，并且会给用户造成一种代理服务器网络延迟低的假象。

        package main

        import (
            "net/url"
            "net/http"
            "bytes"
            "fmt"
            "io/ioutil"
        )

        // 代理服务器(产品官网 www.16yun.cn)
        const ProxyServer = "t.16yun.cn:31111"

        type ProxyAuth struct {
            Username string
            Password string
        }

        func (p ProxyAuth) ProxyClient() http.Client {

            var proxyURL *url.URL
            if p.Username != ""&& p.Password!="" {
                proxyURL, _ = url.Parse("http://" + p.Username + ":" + p.Password + "@" + ProxyServer)
            }else{
                proxyURL, _ = url.Parse("http://" + ProxyServer)
            }
            return http.Client{Transport: &http.Transport{Proxy:http.ProxyURL(proxyURL)}}
        }

        func main()  {


            targetURI := "https://httpbin.org/ip"


            // 初始化 proxy http client
            client := ProxyAuth{"username",  "password"}.ProxyClient()

            request, _ := http.NewRequest("GET", targetURI, bytes.NewBuffer([] byte(``)))

            // 设置Proxy-Tunnel
            // rand.Seed(time.Now().UnixNano())
            // tunnel := rand.Intn(10000)
            // request.Header.Set("Proxy-Tunnel", strconv.Itoa(tunnel) )

            response, err := client.Do(request)

            if err != nil {
                panic("failed to connect: " + err.Error())
            } else {
                bodyByte, err := ioutil.ReadAll(response.Body)
                if err != nil {
                    fmt.Println("读取 Body 时出错", err)
                    return
                }
                response.Body.Close()

                body := string(bodyByte)

                fmt.Println("Response Status:", response.Status)
                fmt.Println("Response Header:", response.Header)
                fmt.Println("Response Body:\n", body)
            }
        }