當前位置:首頁 » 密碼管理 » linuxcurl訪問網頁

linuxcurl訪問網頁

發布時間: 2023-04-13 09:07:09

linux中用curl提取不了網頁內容,會報錯為什麼

這是代碼錯誤或者nginx服務錯誤
看看nginx日誌吧

Ⅱ curl的用法

curl是一個利用URL語法在命令行方式下工作的文件傳輸工具。本文介紹了它的簡單用法。

*******************************************************************************************************************************************************

curl是一個利用URL語法在命令行方式下工作的文件傳輸工具。

它支持很多協議:ftp, FTPS, HTTP, HTTPS, GOPHER, TELNET, DICT, FILE 以及 LDAP。
curl同樣支持HTTPS認證,HTTP POST方法, HTTP PUT方法, FTP上傳, kerberos認證, HTTP上傳, 代理伺服器, cookies, 用戶名/密碼認證, 下載文件斷點續傳, 上載文件斷點續傳, http代理伺服器管道( proxy tunneling), 甚至它還支持IPv6, socks5代理伺服器, 通過http代理伺服器上傳文件到FTP伺服器等等,功能十分強大。

Windows操作系統下的網路螞蟻,網際快車(FlashGet)的功能它都可以做到。准確的說,curl支持文件的上傳和下載,所以是一個綜合傳輸工具,但是按照傳統,用戶習慣稱curl為下載工具。

curl是瑞典curl組織開發的,您可以訪問: http://curl.haxx.se/
獲取它的源代碼和相關說明。

鑒於curl在Linux上的廣泛使用,IBM在AIX Linux Toolbox的光碟中包含了這個軟體,並且您可以訪問IBM網站:

http://www- 1.ibm.com/servers/aix/procts/aixos/linux/altlic.html 下載它。

curl的最新版本是 7.10.8,IBM網站上提供的版本為7.9.3。

在AIX下的安裝很簡單,IBM網站上下載的rpm格式的包。

在 http://curl.haxx.se/docs/,您可以下載到UNIX格式的man幫助,裡面有詳細的curl工具的使用說明。
curl的用法為:curl [options] [URL...]
其中options是下載需要的參數,大約有80多個,curl的各個功能完全是依靠這些參數完成的。
具體參數的使用,用戶可以參考curl的man幫助。
下面,本文就將結合具體的例子來說明怎樣利用curl進行下載。

1、獲得一張頁面

使用命令:curl http://curl.haxx.se
這是最簡單的使用方法。用這個命令獲得了http://curl.haxx.se指向的頁面,同樣,如果這里的URL指向的是一個文件或者一幅圖都可以直接下載到本地。如果下載的是HTML文檔,那麼預設的將不顯示文件頭部,即HTML文檔的header。要全部顯示,請加參數 -i,要只顯示頭部,用參數 -I。任何時候,可以使用 -v 命令看curl是怎樣工作的,它向伺服器發送的所有命令都會顯示出來。為了斷點續傳,可以使用-r參數來指定傳輸范圍。

2、表單(Form)的獲取

在WEB頁面設計中,form是很重要的元素。Form通常用來收集並向網站提交信息。提交信息的方法有兩種,GET方法和POST方法。先討論GET方法,例如在頁面中有這樣一段:
<form method="GET" action="junk.cgi">
<input type=text name="birthyear">
<input type=submit name=press value="OK">
</form>
那麼瀏覽器上會出現一個文本框和一個標為「OK」的按鈕。按下這個按鈕,表單就用GET方法向伺服器提交文本框的數據。
例如原始頁面是在 www.hotmail.com/when/birth.html看到的,然後您在文本框中輸入1905,然後按OK按鈕,那麼瀏覽器的URL現在應該是:「www.hotmail.com/when/junk.cgi?birthyear=1905&;press=OK」
對於這種網頁,curl可以直接處理,例如想獲取上面的網頁,只要輸入:

curl "www.hotmail.com/when/junk.cgi?birthyear=1905&;press=OK"

就可以了。

表單用來提交信息的第二種方法叫做POST方法,POST方法和GET方法的區別在於GET方法使用的時候,瀏覽器中會產生目標URL,而POST不會。類似GET,這里有一個網頁:
<form method="POST" action="junk.cgi">
<input type=text name="birthyear">
<input type=submit name=press value="OK">
</form>
瀏覽器上也會出現一個文本框和一個標為「OK」的按鈕。按下這個按鈕,表單用POST方法向伺服器提交數據。

這時的URL是看不到的,因此需要使用特殊的方法來抓取這個頁面:

curl -d "birthyear=1905&press=OK" www.hotmail.com/when/junk.cgi
這個命令就可以做到。
1995年年末,RFC 1867定義了一種新的POST方法,用來上傳文件。主要用於把本地文件上傳到伺服器。此時頁面是這樣寫的:
<form method="POST" enctype='multipart/form-data' action="upload.cgi">
<input type=file name=upload>
<input type=submit name=press value="OK">
</form>

對於這種頁面,curl的用法不同:
curl -F upload=@localfilename -F press=OK URL

這個命令的實質是將本地的文件用POST上傳到伺服器。
有關POST還有不少用法,用戶可以自己摸索。

3、使用PUT方法。

HTTP協議文件上傳的標准方法是使用PUT,此時curl命令使用-T參數:
curl -T uploadfile www.uploadhttp.com/receive.cgi

4、有關認證。

curl可以處理各種情況的認證頁面,例如下載用戶名/密碼認證方式的頁面(在IE中通常是出現一個輸入用戶名和密碼的輸入框):
curl -u name:password www.secrets.com
如果網路是通過http代理伺服器出去的,而代理伺服器需要用戶名和密碼,那麼輸入:
curl -U proxyuser:proxypassword http://curl.haxx.se
任何需要輸入用戶名和密碼的時候,只在參數中指定用戶名而空著密碼,curl可以互動式的讓用戶輸入密碼。

5、引用。

有些網路資源訪問的時候必須經過另外一個網路地址跳轉過去,這用術語來說是:referer,引用。
對於這種地址的資源,curl也可以下載:
curl -e http://curl.haxx.se daniel.haxx.se

6、指定用戶客戶端。

有些網路資源首先需要判斷用戶使用的是什麼瀏覽器,符合標准了才能夠下載或者瀏覽。
此時curl可以把自己「偽裝」成任何其他瀏覽器:
curl -A "Mozilla/4.0 (compatible; MSIE 5.01; Windows NT 5.0)" URL

這個指令表示curl偽裝成了IE5.0,用戶平台是Windows 2000。(對方伺服器是根據這個字串來判斷客戶端的類型的,所以即使使用AIX也無所謂)。
使用:
curl -A "Mozilla/4.73 [en] (X11; U; Linux 2.2.15 i686)" URL

此時curl變成了Netscape,運行在PIII平台的Linux上了。

7、COOKIES

Cookie是伺服器經常使用的一種記憶客戶信息的方法。如果cookie被記錄在了文件中,那麼使用命令:
curl -b stored_cookies_in_file www.cookiesite.com
curl可以根據舊的cookie寫出新cookie並發送到網站:
curl -b cookies.txt -c newcookies.txt www.cookiesite.com

8、加密的HTTP——HTTPS。

如果是通過OpenSSL加密的https協議傳輸的網頁,curl可以直接訪問:
curl https://that.secure.server.com

9、http認證。

如果是採用證書認證的http地址,證書在本地,那麼curl這樣使用:
curl -E mycert.pem https://that.secure.server.com

參考讀物和注意事項:

curl非常博大,用戶要想使用好這個工具,除了詳細學習參數之外,還需要深刻理解http的各種協議與URL的各個語法。
這里推薦幾個讀物:

RFC 2616 HTTP協議語法的定義。
RFC 2396 URL語法的定義。
RFC 2109 Cookie是怎樣工作的。
RFC 1867 HTTP如何POST,以及POST的格式。

文字

curl是免費軟體,IBM公司對curl不提供技術支持。

curl官方網站:
http://curl.haxx.se

Ⅲ linux伺服器上,其他機器通過curl+IP能夠訪問,但curl+域名訪問超時

用域名訪問的時候捏,首先伺服器要去找到域名對應的IP,從訪問來講,最後還是用IP訪問的,超時的話應該DNS解析這個域名的時候超時了,要不就是你的DNS有問題,你換一個DNS試試,要不就是你的這個域名不對,你試下直接解析
nslookup .com
上面命令可以直接將解析的Ip返回的,
nslookup .com 180.76.76.76
這條後面是指定用哪個DNS解析,如果不加就是用本機指定的DNs解析的

Ⅳ Linux運維命令Curl - 日常用法總結

在Linux系統中,curl是一個利用URL規則在命令行下工作的文件傳輸工具,可以說是一款很強大的http命令行工具。它支持文件的上傳和下載操作,是綜合傳輸工具,習慣上稱url為下載工具。下面就日常運維中基於curl命令使用做下總結

一、Curl命令用法

1. curl語法和參數選項
# curl [option] [url]

curl常見參數

2. curl使用說明
curl是一種命令行工具,作用是發出網路請求,然後得到和提取數據,顯示在"標准輸出"(stdout)上面。它支持多種協議,下面說下curl命令的日常使用示例:

3. curl上傳文件的用法(POST請求方式)
一般來說,我們都會用curl下載網頁,但是curl上傳文件則不常用。下面說下curl模擬"multipart/form-data"形式的form上傳文件, 命令稍稍復雜些。

4. curl常用示例

5. curl命令的超時時間

二、Curl的GET、POST、PUT、DELETE請求

1. GET、POST、PUT、DELETE含義與區別

2. GET、POST、PUT、DELETE四種請求方式的curl訪問

Ⅳ Linux裡面wget和curl命令區別是什麼

《Linux就該這么學》認為:wget命令用來從指定的URL下載文件。wget非常穩定,它在帶寬很窄的情況下和不穩定網路中有很強的適應性,如果是由於網路的原因下載失敗,wget會不斷的嘗試,直到整個文件下載完畢。wget支持HTTP,HTTPS和FTP協議,可以使用HTTP代理。所謂的自動下載是指,wget可以在用戶退出系統的之後在後台執行。這意味這你可以登錄系統,啟動一個wget下載任務,然後退出系統,wget將在後台執行直到任務完成

curl命令是一個利用URL規則在shell終端命令行下工作的文件傳輸工具;它支持文件的上傳和下載,所以是綜合傳輸工具,但按傳統,習慣稱curl為下載工具。作為一款強力工具,curl支持包括HTTP、HTTPS、ftp等眾多協議,還支持POST、cookies、認證、從指定偏移處下載部分文件、用戶代理字元串、限速、文件大小、進度條等特徵;做網頁處理流程和數據檢索自動化。

Ⅵ 如何使用linux命令打開網頁

1、首先,連接相應linux主機,進入到linux命令行狀態下,等待輸入shell指令。

Ⅶ linux系統curl訪問網頁有緩存

1、先清除dns緩存,再清除瀏覽器緩存
2、清除dns緩存,可重新攜汪信啟動NSCD服務來達成陵州清除DNS Cache的效果。命令如下:
# service nscd restart
或是
#/etc/init.d/nscd restart
3、清除瀏覽器緩存,有的在工具裡面,有的在設置裡面,根據瀏覽器的不同找一下,應該能找到;清除緩存之後辯輪重新打開瀏覽器即可。
4、如果是清除BIND伺服器上的CACHE,命令:
# rndc flush

Ⅷ 請問Linux中curl如何執行網頁上的JavaScript代碼

一個簡單的
賬賀叢號是:username
密碼是:password
Login
Area
UserID:
name="id"禪告櫻
type="text">
Password:
type="password">
onClick="友敬pasuser(this.form)">
type="Reset">

Ⅸ linux從文本界面怎麼訪問網站

可以使用curl 命令實現。

1、Curl是Linux下一個很強大的http命令行伏派工具,缺基賀其功能十分強大。

2、下面的例子只作為示範,與真實網站無關:讀取網頁

$ curl http://www..com。

Ⅹ Linux curl命令自動登陸需要輸入密碼的網站

你應該來學perl。這是小菜。

curl畢竟受限制。

熱點內容
python密碼暴力破解 發布:2025-05-16 11:13:28 瀏覽:590
倒角刀編程 發布:2025-05-16 11:12:55 瀏覽:348
資料庫的酸性 發布:2025-05-16 11:03:17 瀏覽:123
phpmysql長連接 發布:2025-05-16 10:51:50 瀏覽:733
android橫屏全屏 發布:2025-05-16 10:47:43 瀏覽:474
伺服器直鏈下載搭建 發布:2025-05-16 10:47:38 瀏覽:175
編譯不成功怎麼辦 發布:2025-05-16 10:35:54 瀏覽:612
如何修改密碼找回 發布:2025-05-16 10:35:53 瀏覽:570
怎麼才能編譯本書 發布:2025-05-16 10:27:47 瀏覽:759
ssd伺服器電腦 發布:2025-05-16 10:26:25 瀏覽:829