主頁 > 知識庫 > Linux部署python爬蟲腳本,并設(shè)置定時任務(wù)的方法

Linux部署python爬蟲腳本,并設(shè)置定時任務(wù)的方法

熱門標(biāo)簽:賀州市地圖標(biāo)注app 長沙開福怎么申請400電話 金融行業(yè)外呼線路 江蘇電銷外呼防封系統(tǒng)是什么 高德地圖標(biāo)注無營業(yè)執(zhí)照 廣州電銷機(jī)器人系統(tǒng)圖 智能電話機(jī)器人線路 百度地圖標(biāo)注要不要錢 東莞人工智能電銷機(jī)器人供應(yīng)商

去年因項目需要,用python寫了個爬蟲。因爬到的數(shù)據(jù)需要存到生產(chǎn)環(huán)境的PG數(shù)據(jù)庫。所以需要將腳本部署到CentOS服務(wù)器,并設(shè)置定時任務(wù),自動啟動腳本。

實施步驟如下:

1.安裝pip(操作系統(tǒng)自帶了python2.6可以直接用,但是沒有pip)

# 下載pip安裝包
wget "https://pypi.python.org/packages/source/p/pip/pip-1.5.4.tar.gz#md5=834b2904f92d46aaa333267fb1c922bb" --no-check-certificate
# 解壓安裝包并安裝
tar -xzvf pip-1.5.4.tar.gz
cd pip-1.5.4
python setup.py install

2.用pip安裝第三方庫

pip install PyGreSQL==5.0.3
pip install requests==2.18.3

3.設(shè)置定時任務(wù)

# 開啟定時任務(wù)服務(wù)
service crond start
# 查看定時任務(wù)服務(wù)狀態(tài)
service crond status
# 打開定時任務(wù)編輯窗口
crontab -e 
# 添加兩條定時任務(wù),即每天0點0分和12點20分各執(zhí)行一次,并寫入日志
0 0 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 &

20 12 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 &

定時任務(wù)語法如下:
# For details see man 4 crontabs

# Example of job definition:
# .---------------- minute (0 - 59)
# | .------------- hour (0 - 23)
# | | .---------- day of month (1 - 31)
# | | | .------- month (1 - 12) OR jan,feb,mar,apr ...
# | | | | .---- day of week (0 - 6) (Sunday=0 or 7) OR sun,mon,tue,wed,thu,fri,sat
# | | | | |
# * * * * * user-name command to be executed

以上這篇Linux部署python爬蟲腳本,并設(shè)置定時任務(wù)的方法就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。

標(biāo)簽:永州 玉樹 滄州 洛陽 松原 北京 廊坊 張家界

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《Linux部署python爬蟲腳本,并設(shè)置定時任務(wù)的方法》,本文關(guān)鍵詞  Linux,部署,python,爬蟲,腳本,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《Linux部署python爬蟲腳本,并設(shè)置定時任務(wù)的方法》相關(guān)的同類信息!
  • 本頁收集關(guān)于Linux部署python爬蟲腳本,并設(shè)置定時任務(wù)的方法的相關(guān)信息資訊供網(wǎng)民參考!
  • 企业400电话

    智能AI客服机器人
    15000

    在线订购

    合计11份范本:公司章程+合伙协议+出资协议+合作协议+股权转让协议+增资扩股协议+股权激励+股东会决议+董事会决议

    推薦文章