安裝urllibpython
A. python爬蟲需要安裝哪些庫
一、 請求庫
1. requests
requests 類庫是第三方庫，比 Python 自帶的 urllib 類庫使用方便和
2. selenium
利用它執行瀏覽器動作，模擬操作。
3. chromedriver
安裝chromedriver來驅動chrome。
4. aiohttp
aiohttp是非同步請求庫，抓取數據時可以提升效率。
二、 解析庫
1. lxml
lxml是Python的一個解析庫，支持解析HTML和XML，支持XPath的解析方式，而且解析效率非常高。
2. beautifulsoup4
Beautiful Soup可以使用它更方便的從 HTML 文檔中提取數據。
3. pyquery
pyquery是一個網頁解析庫，採用類似jquery的語法來解析HTML文檔。
三、 存儲庫
1. mysql
2. mongodb
3. redis
四、 爬蟲框架scrapy
Scrapy 是一套非同步處理框架，純python實現的爬蟲框架，用來抓取網頁內容以及各種圖片
需要先安裝scrapy基本依賴庫，比如lxml、pyOpenSSL、Twisted
B. Python爬蟲-常用的請求方式
爬蟲的請求方式常用的有urllib和requests，前者是自帶模塊，後者需要我們自己進行安裝。
安裝requests模塊
注意：在 python2 中，urllib 被分為urllib,urllib2等，在python3中我們直接使用urllib
雖然Python的標准庫中 urllib 模塊已經包含了平常我們使用的大多數功能，但是它的 API 使用起來讓人感覺不太好，而 Requests 自稱 "HTTP for Humans"，說明使用更簡潔方便。
C. 如何離線安裝python模塊比如Windows下UI自動測試模塊pywinauto
你要離線安裝的原因是在線安裝很慢，
你在線安裝很慢的原因是因為沒有設置pip國內源。
所以，你需要的是這個 http://topmanopensource.iteye.com/blog/2004853
D. python3中使用urllib進行https請求
剛入門python學習網路爬蟲基礎，我使用的python版本是python3.6.4，學習的教程參考 Python爬蟲入門教程
python3.6的版本已經沒有urllib2這個庫了，所以我也不需要糾結urllib和urllib2的區別和應用場景
參考這篇官方文檔 HOWTO Fetch Internet Resources Using The urllib Package 。關於http(s)請求一般就get和post兩種方式較為常用，所以寫了以下兩個小demo，url鏈接隨便找的，具體場景具體變化，可參考注釋中的基本思路
POST請求：
GET請求：
注意，
使用ssl創建未經驗證的上下文，在urlopen中需傳入上下文參數
urllib.request.urlopen(full_url, context=context)
這是Python 升級到 2.7.9 之後引入的一個新特性，所以在使用urlopen打開https鏈接會遇到如下報錯：
ssl.SSLError: [SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed (_ssl.c:777)
所以，當使用urllib.urlopen打開一個 https 鏈接時，需要先驗證一次 SSL 證書
context = ssl._create_unverified_context()
或者或者導入ssl時關閉證書驗證
ssl._create_default_https_context =ssl._create_unverified_context
E. python3怎麼安裝 urllib
不需要安裝，自帶的
直接import urllib就可以。