青青草免费线看线看|啊在车上停不下来了|国产少女免费观看电视剧|仑乱88MAV|精品老司机在线观看视频|国产一区二区三区高清免费视频|在线观看免费777av

Python怎么用requests庫寫爬蟲程序?如何使用requests抓取網頁數據

在python更新到30版本之后推出了一個叫做requests的第三方庫取代了原本用來向服務器發送請求的模塊,而它也是現在開發爬蟲程序和腳本所必須使用的庫 。下面這篇文章會詳細介紹怎么在python中使用requests寫爬蟲程序抓取網頁數據,感興趣的話就往下看看吧 。

Python怎么用requests庫寫爬蟲程序?如何使用requests抓取網頁數據


1.因為它是一個第三方庫HTTP請求庫,所以需要先將其下載安裝好才可以使用 。win+r快捷鍵打開運行窗口后輸出cmd并回車就能以管理員身份進入命令行窗口,在命令行中執行如下命令即可:
pip install requests2.安裝完成之后就可以新建python腳本然后將其導入使用了,而requests庫內已經封裝好了兩個方法能夠用來向服務器發送請求抓取數據返回,分別是get()方法以及post()方法 。它們二者之間的主要區別在于,請求時攜帶的數據是否會直接顯示在url鏈接之中 。
而post()方法請求時所攜帶的數據就是會隱藏在表單之中不顯示出來,所以一般要帶參數發送HTTP請求都是用該方法,代碼示例如下所示:
import requestsr = requests.post(url, data = (‘key’:‘value’))3.上一步中變量r就是保存了爬蟲程序抓取指定網頁后返回的數據,而這些數據使用之前還需要判斷一下狀態碼是否正常,只有為200時才表示數據正常取到并且返回 。然后還需要將其轉為python3默認的utf-8編碼才可以識別解析出數據,最后通過該對象的text屬性即可將數據獲取到,詳細代碼示例如下所示:
if r. status_code == 200:  r.encoding='utf-8'  info = r.text【Python怎么用requests庫寫爬蟲程序?如何使用requests抓取網頁數據】以上就是關于“Python怎么用requests庫寫爬蟲程序?如何使用requests抓取網頁數據”的全部內容了,希望對你有所幫助 。
Python怎么用requests庫寫爬蟲程序?如何使用requests抓取網頁數據


Python怎么用requests庫寫爬蟲程序?如何使用requests抓取網頁數據


Python怎么用requests庫寫爬蟲程序?如何使用requests抓取網頁數據


微信掃碼,學習更方便
Python怎么用requests庫寫爬蟲程序?如何使用requests抓取網頁數據


現在報名贈100例知識點合集
Python怎么用requests庫寫爬蟲程序?如何使用requests抓取網頁數據


    猜你喜歡