禁止爬虫访问

㈠ 爬虫时IP被限制怎么解决

互联网时代，我们可以轻松交换各种信息资源。随着数据量的增长，爬虫已经成了获取数据的主流方式。如果你需要爬取的数据量比较大，难免会遇到大规模爬虫IP被网站封禁的情况。大部分网站都会有反爬虫策略，我们该如何应对呢？和IPIPGO一起来看看吧～

方法一：对爬虫抓取进行压力控制，可以考虑使用 IPIPGO代理IP 访问目标站点。

proxy_list = list(pd.read_csv('ip_list.csv')['ip'])

spider_header = list(pd.read_csv('spider_header_list.csv')['header'])

proxy = random.choice(proxy_list)

header = random.choice(spider_header)

urlhandle = urllib.request.ProxyHandler({'http': proxy})

opener = urllib.request.build_opener(urlhandle)

urllib.request.install_opener(opener)

req = urllib.request.Request(url)

req.add_header('User-Agent', header)

author_poem = []

response_result = urllib.request.urlopen(req).read()

html = response_result.decode('utf-8')

html = etree.HTML(html)

方法二：频繁切换UserAgent

不同浏览器的不同版本都有不同的user_agent，是浏览器类型的详细信息，也是浏览器提交Http请求的重要头部信息。我们可以在每次请求的时候提供不同的user_agent，绕过网站检测客户端的反爬虫机制。比如说，可以把很多的user_agent放在一个列表中，每次随机选一个用于提交访问请求。