【Scrapy爬蟲項目怎么部署到服務器?Python爬蟲程序Scrapy服務器如何部署】python爬蟲程序開發很多時候都是會去使用Scrapy這個框架創建項目,那么在程序開發完成之后還需要將其部署到服務器上才可以遠程訪問和自動運行 。而這篇文章就是來介紹python使用Scrapy框架開發的爬蟲程序是如何部署服務器的,一起往下看看吧 。

1.因為Scrapy框架提供了專門的服務器部署工具,先在命令行窗口內用pip命令將它們給下載安裝好,示例如下所示:
pip install scrapydpip install scrapy-clientpip install scrapyweb這三個工具中scrapyd就是用來創建服務器的,而scrapy-client它可以將整個項目打包之后發布到服務器上面,而scrapyweb則是用來管理服務器并且完成日志可視化分析處理的 。
2.在上傳項目之前需要在命令執行scrapyd這個命令來將服務器給打開,然后使用pycharm編輯器打開Scrapy項目并且打開項目文件之中的cfg文件,在其中添加一行配置項,示例如下:
url = http://localhost:8000/

3.然后使用快捷鍵Alt+F12打開終端窗口,在該窗口內需要先使用cd將工作目錄切換到cfg文件所在的文件路徑,然后再去執行下面這個命令就可以上傳項目到服務器上了:
scrapyd-deployscrapyd-deploy demo -p qcjob第二個命令之中-p后面的是項目名稱,這個不是根目錄名稱,而是使用Scrapy框架創建項目時的那個名稱,根據自己的項目進行更改 。
然后打開瀏覽器并輸入指定網址即可啟動爬蟲程序,這個網址中的數據都是訪問網站時會帶上去的數據,具體根據自己爬蟲程序更改,示例如下:
http://localhost:6800/schedule.json?project=qcjob&spider=job&key=java&time=0 #POST以上就是關于“Scrapy爬蟲項目怎么部署到服務器?Python爬蟲程序Scrapy服務器如何部署”的全部內容了,希望對你有所幫助 。
猜你喜歡
- 崗前體檢有哪些項目
- 高考體檢有哪些項目
- 投資什么賺錢快風險小,小投資賺錢項目分享
- 項目合作
- 網絡創業小項目推薦,3個最火的互聯網小項目供你參考
- 附其線上路演PK創業項目 在校大學生創業項目有哪些
- 項目結題是什么意思
- 科研項目結題是什么意思
- 杭州樂園項目
- 戶外拓展運動項目有哪些 戶外拓展運動項目具體有哪些
