如何分辨HTTP代理ip匿名度

b b b

如何分辨HTTP代理ip匿名度

  在使用爬虫多次爬取同一网站时,经常会被网站的IP反爬虫机制给禁掉,为了解决封禁IP的问题通常会使用ip代理。但也有一部分人在HTTP代理ip的使用存在误解,他们认为使用了ip代理就能解决一切问题,然而ip代理不是万能的,它只是一个工具,如果使用不当,一样会被封IP。
 

 

  在进行爬虫的时候,我们一般都建议使用高匿ip代理,因为只有高匿ip代理才可以真正的隐藏自己的真实IP地址,也就无法判断近期访问的IP是否是爬虫IP。

 

  ip代理的匿名度如何分辨?

 

  高匿、匿名和透明代理的主要区别在于对方服务器获取REMOTE_ADDR、HTTP_X_FORWARDED_FOR、HTTP_VIA三个参数的区别。

 

  众所周知,REMOTE_ADDR是无法伪造的。

 

  使用透明代理(Transparent),对方服务器知道你使用了代理,也知道你的真实IP。REMOTE_ADDR=ProxyIP,HTTP_VIA=ProxyIP,HTTP_X_FORWARDED_FOR=YourIP

 

  使用匿名代理(Anonymous),对方服务器知道你使用了代理,但不知道你的真实IP。REMOTE_ADDR=ProxyIP,HTTP_VIA=ProxyIP,HTTP_X_FORWARDED_FOR=ProxyIP

 

  使用高匿名代理(High),对方服务器不知道你使用了代理,也不知道你的真实IP。REMOTE_ADDR=ProxyIP,HTTP_VIA=NULL,HTTP_X_FORWARDED_FOR=NULL

 

  只有尽量地模拟真实用户正常访问,才能最大程度地避免被封IP。动态ip海提供海量IP资源,可以多线程同时进行工作,不限并发数,工作效率翻倍,性价比极高,这才是使用ip代理爬虫采集的正确打开方式。

 

版权声明:本文为ipadsl.cn所属公司原创作品,未经许可,禁止转载!