爬取腳本

❶ 4.python爬蟲之新建 scrapy 爬蟲項目(抓取和保存)

1.win10 下 win + r 打開cmd 切換新項目的目錄
2.新建scrapy項目的命令:

可以利用pycharm 打開項目文件夾編輯項目
3.items.py
聲明爬取的欄位

4.新建scrapy 爬蟲

用命令 scrapy genspider doubanmovie "movie.douban.com" 創建爬蟲。

5.運行爬蟲

5.1 創建運行腳本
(一)、在 scrapy.cfg 同級目錄下創建 pycharm 調試腳本 run.py，避免每次運行爬蟲輸入密碼,內容如下：

6.修改robottxt協議
修改 settings 中的 ROBOTSTXT_OBEY = True 參數為 False,因為默認為 True，就是要遵守 robots.txt 的規則， robots.txt 是遵循 Robot協議 的一個文件，它保存在網站的伺服器中，它的作用是，告訴搜索引擎爬蟲，本網站哪些目錄下的網頁不希望你進行爬取收錄。在 Scrapy 啟動後，會在第一時間訪問網站的 robots.txt 文件，然後決定該網站的爬取范圍。查看 robots.txt 可以直接網址後接 robots.txt 即可。

一般構建爬蟲系統，建議自己編寫Item Pipeline,就可以在open(path)選擇自己的保存路徑
參考: # scrapy爬蟲事件以及數據保存為txt,json,mysql

7.1保存為json格式時出現亂碼的解決方式:
scrapy抓取豆瓣書籍保存json文件亂碼問題
中文默認是Unicode,如:

\u5317\u4eac\u5927\u5b66
在setting文件settings.py中設置：

就可以解決了
第二種解決辦法
或在cmd中傳入 -s FEED_EXPORT_ENCODING='utf-8'

參考: https://www.cnblogs.com/tinghai8/p/9700300.html

❷ 爬蟲腳本爬取的是網頁源碼還是網頁內容

網頁內容，但是源碼也可以爬下來。

❸ 我現在有一套在網站上爬取數據的程序(用python寫的)如何在伺服器運行

用xshell之類的軟體連接到伺服器上，然後用其帶的比如xftp工具將代碼傳上去，在伺服器上安裝python之後再去跑代碼就行了

❹ 用python腳本爬取和解析指定頁面的數據

給你貼一下我前一段時間回答的類似問題，用的soup，還有一個用的正則就不貼了，手機不太方便，如下。
import beautifulsoup
import urllib2

def main():

userMainUrl = "你要抓取的地址"
req = urllib2.Request(userMainUrl)
resp = urllib2.urlopen(req)
respHtml = resp.read()
foundLabel = respHtml.findAll("label")

finalL =foundLabel.string

print "biaoti=",finalL
if __name__=="__main__":

main();

PS：如果不會改的話追問一下，回頭我用電腦給你寫一份

❺ 爬蟲之類的腳本一般開多少個線程比較好其實

開發網路爬蟲應該選擇Nutch、Crawler4j、WebMagic、scrapy、WebCollector還是其他的？這里按照我的經驗隨便扯淡一下：上面說的爬蟲，基本可以分3類：1.分布式爬蟲：Nutch
2.JAVA單機爬蟲：Crawler4j、WebMagic、WebCollector
3. 非JAVA單機爬蟲：scrapy
第一類：分布式爬蟲
爬蟲使用分布式，主要是解決兩個問題：
1）海量URL管理
2）網速
現在比較流行的分布式爬蟲，是Apache的Nutch。但是對於大多數用戶來說，Nutch是這幾類爬蟲里，最不好的選擇，理由如下：
1）Nutch是為搜索引擎設計的爬蟲，大多數用戶是需要一個做精準數據爬取（精抽取）的爬蟲。Nutch運行的一套流程里，有三分之二是為了搜索引擎而設計的。對精抽取沒有太大的意義。也就是說，用Nutch做數據抽取，會浪費很多的時間在不必要的計算上。而且如果你試圖通過對Nutch進行二次開發，來使得它適用於精抽取的業務，基本上就要破壞Nutch的框架，把Nutch改的面目全非，有修改Nutch的能力，真的不如自己重新寫一個分布式爬蟲框架了。
2）Nutch依賴hadoop運行，hadoop本身會消耗很多的時間。如果集群機器數量較少，爬取速度反而不如單機爬蟲快。

❻ 油猴爬蟲方案

目前很多知名的網站都增加一些反爬蟲手段，使得編寫爬蟲時並不那麼理想，有些網站很難破解其反爬技術。如利用puppeteer技術操作頁面時，往往出現一些載入異常，容易被網站檢測程序探測到而拒絕響應。

瀏覽器擴展程序油猴(tampermonkey)似乎可以做很多事件，對分析網頁與事件處理有大的能力空間。由於油猴是在用戶手動打開的瀏覽器下運行的，完全是與真人操作類似，可能不那麼容易被檢測到。

思路是這樣的：

第一步：人工啟動瀏覽器，導航到要抓取數據的頁面；（這一步是唯一人工干擾的）

第二步：油猴自動啟動，分析頁面，處理頁面數據；

第三步：將獲得的數據通過GM_xmlhttpRequest介面推送到後台數據接收服務，將數據入庫；

第三步：獲得「下一頁」標簽元素，觸發下一頁請求；返回第二步重復運行；

第四步：沒有「下一頁」時，程序退出。

上述方案的缺點很明顯，那就是第一步必須是人工啟動瀏覽，導航到具體頁面，沒有計劃任務。

當然這不是大問題，還是利用油猴，編寫一個計劃任務的腳本來解決上述問題，即利用js定時器，觸發指定的頁面。更進一步，我們有好多爬蟲腳本，這時我們就做一個任務隊列，讓js定時器通過導航到指定頁面來啟動對應的js腳本。js定時器的@match值為 http://*/* 。

具體做法是：

一、編輯js定時器(計劃任務)，實現定時打開指定網站；

二、讓瀏覽器始終打開；

三、部分需要登錄的網站，先行登錄；並讓定時器第間隔一段時間（如半小時）刷新一下網站的一個非數據頁面。

四、爬蟲腳本執行完後，盡量關閉頁簽，以節省電腦資源。

❼ Python爬蟲和Python腳本有什麼區別

本質上都是一段程序代碼，
python
是動態語言，腳本是對其的叫法。
爬蟲是代碼在實際業務功能上的一種叫法

❽ python爬取大量數據(百萬級)

當用python爬取大量網頁獲取想要的數據時，最重要的問題是爬蟲中斷問題，python這種腳本語言，一中斷

進程就會退出，怎麼在中斷後繼續上次爬取的任務就至關重要了。這里就重點剖析這個中斷問題。

第一個問題: 簡單點的用動態代理池就能解決，在爬取大量數據的時候，為了速度不受影響，建議使用一些緩

存的中間件將有效的代理 ip 緩存起來，並定時更新。這里推薦 github 這個倉庫

https://github.com/jhao104/proxy_pool ， 它會做ip有效性驗證並將 ip 放入 redis ，不過實現過於復雜

了，還用到了 db ，個人覺得最好自己修改一下。困難點的就是它會使用別的請求來進行判斷當前的ip是否

是爬蟲，當我們過於聚焦我們的爬蟲請求而忽略了其他的請求時，可能就會被伺服器判定為爬蟲，進而這個ip

會被列入黑名單，而且你換了ip一樣也會卡死在這里。這種方式呢，簡單點就用 selenium + chrome 一個一個

去爬，不過速度太慢了。還是自己去分析吧，也不會過復雜的。

第二個問題： 網路連接超時是大概率會遇到的問題，有可能是在爬取的時候本地網路波動，也有可能是爬

取的服務端對ip做了限制，在爬取到了一定量級的時候做一些延遲的操作，使得一些通用的 http 庫超時

（ urllib ）。不過如果是服務端動的手腳一般延遲不會太高，我們只需要人為的設置一個高一點的

timeout 即可（30 秒），最好在爬取開始的時候就對我們要用的爬取庫進行一層封裝，通用起來才好改

動。

第三個問題: 在解析大量靜態頁面的時候，有些靜態頁面的解析規則不一樣，所以我們就必須得做好斷點

續爬的准備了（ PS : 如果簡單的忽略錯誤可能會導致大量數據的丟失，這就不明智了）。那麼在調試的過

程中斷點續爬有個解決方案，就是生產者和消費者分離，生產者就是產生待爬 url 的爬蟲，消費者就是爬取

最終數據的爬蟲。最終解析數據就是消費者爬蟲了。他們通過消息中間件連接，生產者往消息中間件發送待

爬取的目標信息，消費者從裡面取就行了，還間接的實現了個分布式爬取功能。由於現在的消費中間件都有

ack 機制，一個消費者爬取鏈接失敗會導致消息消費失敗，進而分配給其他消費者消費。所以消息丟失的

概率極低。不過這里還有個 tips ， 消費者的消費超時時間不能太長，會導致消息釋放不及時。還有要開啟

消息中間價的數據持久化功能，不然消息產生過多而消費不及時會撐爆機器內存。那樣就得不償失了。

第四個問題： 這種情況只能 try except catch 住了，不好解決，如果單獨分析的話會耗費點時間。但在

大部分數據 （99%） 都正常的情況下就這條不正常拋棄就行了。主要有了第三個問題的解決方案再出現這

種偶爾中斷的問就方便多了。

希望能幫到各位。

❾ 有哪些好用的爬蟲軟體

推薦如下：

1、神箭手雲爬蟲。

神箭手雲是一個大數據應用開發平台，為開發者提供成套的數據採集、數據分析和機器學習開發工具，為企業提供專業化的數據抓取、數據實時監控和數據分析服務。功能強大，涉及雲爬蟲、API、機器學習、數據清洗、數據出售、數據訂制和私有化部署等。

簡介：

網高知絡爬蟲（又稱為網頁蜘蛛，網路機器人，在FOAF社區中間，更經常的稱為網頁追逐者），是一種按照一定的規則，自動地抓取萬維網信息的程序或者腳本。另外一些不常使用的名字還有螞蟻、自動索引、模擬程序或者蠕蟲。

❿ python中，進行爬蟲抓取怎麼樣能夠使用代理IP

網路數據量越來越大，從網頁中獲取信息變得越來越困難，如何有效地抓取並利用信息，已成為網路爬蟲一個巨大的挑戰。下面IPIDEA為大家講明爬蟲代理IP的使用方法。

1.利用爬蟲腳本每天定時爬取代理網站上的ip，寫入MongoDB或者其他的資料庫中，這張表作為原始表。

2.使用之前需要做一步測試，就是測試這個ip是否有效，方法就是利用curl訪問一個網站查看返回值，需要創建一張新表，循環讀取原始表有效則插入，驗證之後將其從原始表中刪除，驗證的同時能夠利用響應時間來計算這個ip的質量，和最大使用次數，有一個演算法能夠參考一種基於連接代理優化管理的多線程網路爬蟲處理方法。

3.把有效的ip寫入ip代理池的配置文件，重新載入配置文件。

4.讓爬蟲程序去指定的dailiy的服務ip和埠，進行爬取。