python自動數據收集

A. python中數據收集不可不知的庫！

1. Scrapy

要想編寫一個Python網路爬蟲來從網頁上提取信息，Scrapy可能是大部分人第一個想到的Python庫。

例如，使用者可以提取某城市所有餐廳的評論或是收集網購網站上某一種產品的所有評論。

對於該庫最常見的用法是利用它來識別出現在網站頁面上那些有趣的信息模式，無論這些信息是以URL的形式出現還是以XPath的形式出現。

一旦理清了這些信息的模式，Scrapy就可以協助使用者自動提取所需信息，並將其整理為表格或JSON格式的數據結構。

使用pip即可輕松安裝Scrapy。

2. Selenium

Selenium設計者的初衷是將其打造成一個自動網站測試框架，但開發者們發現將其用作網頁數據抓取工具的效果更佳。

使用者在感興趣的網站上已經進行了交互行為之後，Selenium一般能派上用場。

比如說，使用者可能需要在網站上注冊一個賬戶，登陸自己的賬戶，再點擊幾個按鈕或是鏈接才能找到自己想要的內容。

上述鏈接被定義為JavaScript函數。在這一情況下，要應用Scrapy或者Beautiful Soup可能都不是很便捷，但使用Selenium就可以輕而易舉地完成這一過程。

但應當注意，Selenium比普通的抓取庫運行速度要慢得多。這是因為Selenium會將Chrome這樣的瀏覽器初始化並模擬瀏覽器代碼定義的所有行為。

因此，在處理URL模式或Xpaths時，最好還是使用Scrapy或者Beautiful Soup，不到萬不得已不要使用Selenium。

3. BeautifulSoup

Beautiful Soup是另一個可以用來收集網站內容的Python庫。業界普遍認為，學習BeautifulSoup所需時間比學習Scrapy所需時間要短很多。

除此之外，Beautiful Soup更適合應用於規模相對較小的問題或一次性的任務。

Scrapy要求使用者開發自己的「爬蟲」並通過命令行進行操作，而使用Beautiful Soup只需將其功能導入計算機中並聯機使用即可。因此，使用者甚至可以將Beautiful Soup應用於自己的Jupyternotebook。

更多Python知識，請關注Python視頻教程！！

B. 如何評價利用python製作數據採集,計算,可視化界面呢

先來設置兩個url地址，第一個用於第一次訪問，這樣可以獲得網站伺服器發來的cookie，第二個網址是用於登陸的地址
引入兩個模塊，cookielib和urllib2
接著，我們安裝一個cookie處理器，代碼如下，這個代碼很多人不太能讀懂，其實你會用就可以了，他們就是這個固定的形式，頂多改改變數的名字。你復制下來以後自己用就可以了，用多了，你再去看代碼的意義，你就都懂了。
然後我們先訪問一下網站，獲得一個cookie，你不用管這個cookie該怎麼弄，前面設置的cookie處理器會自動處理。
接著，我們寫一下postdata，也就是你要post的數據，因為我們打算登陸網站，所以postdata里肯定有用戶名和密碼，那麼怎麼知道該怎麼寫postdata呢？看你抓包得到的post數據。下面第一幅圖是httpwatch抓包截圖，點擊postdata，看到post的數據，然後我們看第二幅圖，就是python的寫法。你自己感受一下。
寫完postdata以後，我們 要將postdata轉碼一下，讓伺服器可以解讀postdata數據
接著設置headers信息，headers也是抓包得到的。同樣的方式，你去寫header內的信息
然後我們通過request方法來登陸網站，並返回數據，返回的數據存儲在request中
通過rulopen方法和read方法來讀取數據，並列印出來。
我們看到輸出的結果，這說明我們雖然正確的模擬了登陸網站需要的post信息，但是沒有考慮到登陸網站是需要驗證碼的，後期我們會看到如何處理驗證碼，如果你拿這個教程去處理沒有驗證碼的登陸問題，那麼你現在已經成功了。

C. python數據採集是什麼

數據採集(DAQ)，又稱數據獲取，是指從感測器和其它待測設備等模擬和數字被測單元中自動採集非電量或者電量信號,送到上位機中進行分析，處理。數據採集系統是結合基於計算機或者其他專用測試平台的測量軟硬體產品來實現靈活的、用戶自定義的測量系統。採集一般是采樣方式，即隔一定時間（稱采樣周期）對同一點數據重復採集。採集的數據大多是瞬時值，也可是某段時間內的一個特徵值。
網路爬蟲是用於數據採集的一門技術，可以幫助我們自動地進行信息的獲取與篩選。從技術手段來說，網路爬蟲有多種實現方案，如PHP、Java、Python ...。那麼用python 也會有很多不同的技術方案（Urllib、requests、scrapy、selenium...)，每種技術各有各的特點，只需掌握一種技術，其它便迎刃而解。同理，某一種技術解決不了的難題，用其它技術或方依然無法解決。網路爬蟲的難點並不在於網路爬蟲本身，而在於網頁的分析與爬蟲的反爬攻克問題。
python學習網，免費的在線學習python平台，歡迎關注！

D. python怎樣收集數據

這么具體的問題，找通用demo很難啊，個人覺得問題的難點不在Python。
1. 獲取什麼伺服器性能數據和如何獲取，可以請教公司內部運維。
2. 獲取什麼資料庫性能數據和如何獲取，可以請教公司內部DBA。
3. 以上兩點搞定了，才能確定臨時數據存儲結構和最終資料庫表結構。
以上三點是關鍵，Python的事情就簡單多了，提供一種思路：一分鍾一次，實時性不高，每台伺服器用cron部署一個a.py，用於獲取性能數據，在某一台伺服器有一個b.py，負責獲取所有伺服器a.py產生的數據，然後寫入資料庫；a.py如何上報到b.py取決於你擅長什麼，如果熟悉網路編程，用a.py做客戶端上報到服務端b.py，如果熟悉shell的文件同步(如rsync)，a.py只寫本地文件，b.py調用c.sh（封裝rsync）拉取遠程文件。

E. python爬蟲能做什麼

世界上80%的爬蟲是基於Python開發的，學好爬蟲技能，可為後續的大數據分析、挖掘、機器學習等提供重要的數據源。什麼是爬蟲？（推薦學習：Python視頻教程）
網路爬蟲（又被稱為網頁蜘蛛，網路機器人，在FOAF社區中間，更經常的稱為網頁追逐者），是一種按照一定的規則，自動地抓取萬維網信息的程序或者腳本。另外一些不常使用的名字還有螞蟻、自動索引、模擬程序或者蠕蟲。
其實通俗的講就是通過程序去獲取web頁面上自己想要的數據，也就是自動抓取數據
爬蟲可以做什麼？
你可以用爬蟲爬圖片，爬取視頻等等你想要爬取的數據，只要你能通過瀏覽器訪問的數據都可以通過爬蟲獲取。
爬蟲的本質是什麼？
模擬瀏覽器打開網頁，獲取網頁中我們想要的那部分數據
瀏覽器打開網頁的過程：
當你在瀏覽器中輸入地址後，經過DNS伺服器找到伺服器主機，向伺服器發送一個請求，伺服器經過解析後發送給用戶瀏覽器結果，包括html,js,css等文件內容，瀏覽器解析出來最後呈現給用戶在瀏覽器上看到的結果
所以用戶看到的瀏覽器的結果就是由HTML代碼構成的，我們爬蟲就是為了獲取這些內容，通過分析和過濾html代碼，從中獲取我們想要資源。
更多Python相關技術文章，請訪問Python教程欄目進行學習！以上就是小編分享的關於python爬蟲能做什麼的詳細內容希望對大家有所幫助，更多有關python教程請關注環球青藤其它相關文章！

F. 如何利用python對網頁的數據進行實時採集並輸出

這讓我想到了一個應用場景，在實時網路徵信系統中，通過即時網路爬蟲從多個信用數據源獲取數據。並且將數據即時注入到信用評估系統中，形成一個集成化的數據流。
可以通過下面的代碼生成一個提取器將標準的HTML DOM對象輸出為結構化內容。

圖片來自集搜客網路爬蟲官網，侵刪。

G. python常用的資料庫有哪些

主流的關系型資料庫：

1. Mysql：目前使用最廣泛的開源、多平台的關系型資料庫，支持事務、符合ACID、支持多數SQL規范。

2. SQL Server：支持事務、符合ACID、支持多數SQL規范，屬於商業軟體，需要注意版權和licence授權費用。

3. Oracle：支持事務，符合關系型資料庫原理，符合ACID，支持多數SQL規范，功能最強大、最復雜、市場佔比最高的商業資料庫。

4. Postgresql：開源、多平台、關系型資料庫，功能最強大的開源資料庫，需要Python環境，基於postgresql的time
scaleDB，是目前比較火的時序資料庫之一。

非關系型資料庫

Redis：開源、Linux平台、key-value鍵值型nosql資料庫，簡單穩定，非常主流的、全數據in-momory，定位於快的鍵值型nosql資料庫。

Memcaced：一個開源的、高性能的、具有分布式內存對象的緩存系統，通過它可以減輕資料庫負載，加速動態的web應用。

面向文檔資料庫以文檔的形式存儲，每個文檔是一系列數據項的集合，每個數據項有名稱與對應的值，主要產品有：

MongoDB：開源、多平台、文檔型nosql資料庫，最像關系型資料庫，定位於靈活的nosql資料庫。適用於網站後台資料庫、小文件系統、日誌分析系統。

H. 爬蟲python能做什麼

能用來做：1、收集數據；由於爬蟲程序是一個程序，程序運行得非常快，因此使用爬蟲程序獲取大量數據變得非常簡單和快速。2、刷流量和秒殺；當爬蟲訪問一個網站時，如果網站無法識別訪問來自爬蟲，那麼它可能將被視為正常訪問，進而刷了網站的流量。
推薦學習：Python視頻教程
python爬蟲可以用來做什麼？
1、收集數據
python爬蟲程序可用於收集數據。這也是最直接和最常用的方法。由於爬蟲程序是一個程序，程序運行得非常快，不會因為重復的事情而感到疲倦，因此使用爬蟲程序獲取大量數據變得非常簡單和快速。
由於99%以上的網站是基於模板開發的，使用模板可以快速生成大量布局相同、內容不同的頁面。因此，只要為一個頁面開發了爬蟲程序，爬蟲程序也可以對基於同一模板生成的不同頁面進行爬取內容。
2、調研
比如要調研一家電商公司，想知道他們的商品銷售情況。這家公司聲稱每月銷售額達數億元。如果你使用爬蟲來抓取公司網站上所有產品的銷售情況，那麼你就可以計算出公司的實際總銷售額。此外，如果你抓取所有的評論並對其進行分析，你還可以發現網站是否出現了刷單的情況。數據是不會說謊的，特別是海量的數據，人工造假總是會與自然產生的不同。過去，用大量的數據來收集數據是非常困難的，但是現在在爬蟲的幫助下，許多欺騙行為會赤裸裸地暴露在陽光下。
3、刷流量和秒殺
刷流量是python爬蟲的自帶的功能。當一個爬蟲訪問一個網站時，如果爬蟲隱藏得很好，網站無法識別訪問來自爬蟲，那麼它將被視為正常訪問。結果，爬蟲「不小心」刷了網站的流量。
除了刷流量外，還可以參與各種秒殺活動，包括但不限於在各種電商網站上搶商品，優惠券，搶機票和火車票。目前，網路上很多人專門使用爬蟲來參與各種活動並從中賺錢。這種行為一般稱為「薅羊毛」，這種人被稱為「羊毛黨」。不過使用爬蟲來「薅羊毛」進行盈利的行為實際上遊走在法律的灰色地帶，希望大家不要嘗試。
更多編程相關知識，請訪問：編程教學！！以上就是小編分享的關於爬蟲python能做什麼？的詳細內容希望對大家有所幫助，更多有關python教程請關注環球青藤其它相關文章！

I. 如何用python 爬蟲抓取金融數據

獲取數據是數據分析中必不可少的一部分，而網路爬蟲是是獲取數據的一個重要渠道之一。鑒於此，我拾起了Python這把利器，開啟了網路爬蟲之路。

本篇使用的版本為python3.5，意在抓取證券之星上當天所有A股數據。程序主要分為三個部分：網頁源碼的獲取、所需內容的提取、所得結果的整理。

一、網頁源碼的獲取

很多人喜歡用python爬蟲的原因之一就是它容易上手。只需以下幾行代碼既可抓取大部分網頁的源碼。

為了減少干擾，我先用正則表達式從整個頁面源碼中匹配出以上的主體部分，然後從主體部分中匹配出每隻股票的信息。代碼如下。

pattern=re.compile('<tbody[sS]*</tbody>')
body=re.findall(pattern,str(content)) #匹配<tbody和</tbody>之間的所有代碼pattern=re.compile('>(.*?)<')
stock_page=re.findall(pattern,body[0]) #匹配>和<之間的所有信息

其中compile方法為編譯匹配模式，findall方法用此匹配模式去匹配出所需信息，並以列表的方式返回。正則表達式的語法還挺多的，下面我只羅列所用到符號的含義。

語法 說明

. 匹配任意除換行符「 」外的字元

* 匹配前一個字元0次或無限次

？ 匹配前一個字元0次或一次

s 空白字元：[<空格> fv]

S 非空白字元：[^s]

[...] 字元集，對應的位置可以是字元集中任意字元

(...) 被括起來的表達式將作為分組，裡面一般為我們所需提取的內容

正則表達式的語法挺多的，也許有大牛隻要一句正則表達式就可提取我想提取的內容。在提取股票主體部分代碼時發現有人用xpath表達式提取顯得更簡潔一些，看來頁面解析也有很長的一段路要走。

三、所得結果的整理

通過非貪婪模式(.*?)匹配>和<之間的所有數據，會匹配出一些空白字元出來，所以我們採用如下代碼把空白字元移除。

stock_last=stock_total[:] #stock_total：匹配出的股票數據for data in stock_total: #stock_last：整理後的股票數據
if data=='':
stock_last.remove('')

最後，我們可以列印幾列數據看下效果，代碼如下

print('代碼',' ','簡稱',' ',' ','最新價',' ','漲跌幅',' ','漲跌額',' ','5分鍾漲幅')for i in range(0,len(stock_last),13): #網頁總共有13列數據
print(stock_last[i],' ',stock_last[i+1],' ',' ',stock_last[i+2],' ',' ',stock_last[i+3],' ',' ',stock_last[i+4],' ',' ',stock_last[i+5])