青青草免费线看线看|啊在车上停不下来了|国产少女免费观看电视剧|仑乱88MAV|精品老司机在线观看视频|国产一区二区三区高清免费视频|在线观看免费777av

Scrapy爬蟲項目怎么部署到服務器?Python爬蟲程序Scrapy服務器如何部署

【Scrapy爬蟲項目怎么部署到服務器?Python爬蟲程序Scrapy服務器如何部署】python爬蟲程序開發很多時候都是會去使用Scrapy這個框架創建項目,那么在程序開發完成之后還需要將其部署到服務器上才可以遠程訪問和自動運行 。而這篇文章就是來介紹python使用Scrapy框架開發的爬蟲程序是如何部署服務器的,一起往下看看吧 。

Scrapy爬蟲項目怎么部署到服務器?Python爬蟲程序Scrapy服務器如何部署


1.因為Scrapy框架提供了專門的服務器部署工具,先在命令行窗口內用pip命令將它們給下載安裝好,示例如下所示:
pip install scrapydpip install scrapy-clientpip install scrapyweb這三個工具中scrapyd就是用來創建服務器的,而scrapy-client它可以將整個項目打包之后發布到服務器上面,而scrapyweb則是用來管理服務器并且完成日志可視化分析處理的 。
2.在上傳項目之前需要在命令執行scrapyd這個命令來將服務器給打開,然后使用pycharm編輯器打開Scrapy項目并且打開項目文件之中的cfg文件,在其中添加一行配置項,示例如下:
url = http://localhost:8000/
Scrapy爬蟲項目怎么部署到服務器?Python爬蟲程序Scrapy服務器如何部署


3.然后使用快捷鍵Alt+F12打開終端窗口,在該窗口內需要先使用cd將工作目錄切換到cfg文件所在的文件路徑,然后再去執行下面這個命令就可以上傳項目到服務器上了:
scrapyd-deployscrapyd-deploy demo -p qcjob第二個命令之中-p后面的是項目名稱,這個不是根目錄名稱,而是使用Scrapy框架創建項目時的那個名稱,根據自己的項目進行更改 。
然后打開瀏覽器并輸入指定網址即可啟動爬蟲程序,這個網址中的數據都是訪問網站時會帶上去的數據,具體根據自己爬蟲程序更改,示例如下:
http://localhost:6800/schedule.json?project=qcjob&spider=job&key=java&time=0 #POST以上就是關于“Scrapy爬蟲項目怎么部署到服務器?Python爬蟲程序Scrapy服務器如何部署”的全部內容了,希望對你有所幫助 。

    猜你喜歡