注册
登录
提问时间:2016/7/2 10:36:00
1楼(匿名用户)

断点续传机制下载文件要服务器那边支持, CURL下载的时候可以设置从多少字节开始下载, 服务器就返回那个地方开始的流。而换了IP很明显是可以的,http是无状态的。

也可以通过这样的方式实现迅雷那样的多连接一起下加速, 可能。
2楼(未知网友)

基于python的scrapy爬虫,关于增量爬取是怎么处理的?你是在问这个吗?
立即注册站大爷用户,免费试用全部产品
立即注册站大爷用户,免费试用全部产品