注册
登录
首页
特色IP池
隧道代理
独享IP池
合租IP池
大型IP池
短效优质代理
长效住宅代理
学生特惠代理
Socks5代理
短效Socks5代理
住宅Socks5代理
免费代理
推广返利
支持
文档中心
API接口
博客
登陆
首页
特色IP池 >
隧道代理
独享IP池
合租IP池
大型IP池 >
短效优质代理
长效住宅代理
学生特惠代理
Socks5代理 >
短效Socks5代理
住宅Socks5代理
免费代理
推广返利
支持 >
文档中心
API接口
博客
注册
登录
每月知识问答
2019年4月
5 篇
2019年3月
18 篇
2019年2月
6 篇
2019年1月
5 篇
2018年12月
10 篇
2018年11月
11 篇
2018年10月
7 篇
2018年9月
19 篇
2018年8月
13 篇
2018年7月
14 篇
2018年6月
13 篇
2018年5月
11 篇
2018年4月
8 篇
2018年3月
10 篇
2018年2月
3 篇
2018年1月
12 篇
2017年12月
20 篇
2017年11月
21 篇
2017年10月
12 篇
2017年9月
21 篇
2017年8月
24 篇
2016年11月
16 篇
2016年10月
31 篇
2016年9月
21 篇
2016年8月
31 篇
2016年7月
51 篇
2016年6月
129 篇
webget网络在抓取美团信息时,请求太频繁,提示要验证码,如何解决?
提问时间:2016/6/8 10:33:13
webget网络在抓取美团信息时,请求太频繁,提示要验证码,如何解决?如何用代理IP来切换IP呢,或者有更好的采集工具吗?
1楼(未知网友)
泻药
美团的对爬虫的防范策略是根据请求间隔来计算的,如果请求量不大的话可以加个sleep来延迟放慢速度
如果麻烦一些的话就要切换代理IP了
2楼(未知网友)
试试设置代理IP
也可以投机尝试一下协议头的欺骗ip
要是不用代理IP 那就只好sleep了
推荐阅读
◆
浅析Python爬虫的多线程并发和gzip压缩
◆
为什么免费代理不能用,和收费代理有什么区别
◆
网络爬虫没有代理IP真的不行吗
◆
爬虫工作中不能忽略的一个重要角色——cookie
◆
用户如何判断代理服务器的代理方式?高度匿名代理、普通匿名代理、透明代理
◆
为什么说使用代理IP上网更安全
◆
代理IP分类以及识别技术探讨
◆
nginx中sendfile和tcp_nopush 开启的意义在于什么?对于官方的解释不是很理解。
◆
学习网络爬虫应掌握哪些技术
◆
我在用代理IP时连不上Ingress,却能连上G+,地图等,这是为什么?
立即注册站大爷用户,免费试用全部产品
立即注册站大爷用户,免费试用全部产品
产品导购
免费试用