日韩久久久精品,亚洲精品久久久久久久久久久,亚洲欧美一区二区三区国产精品 ,一区二区福利

Linux部署python爬蟲腳本,并設(shè)置定時(shí)任務(wù)的方法

系統(tǒng) 1831 0

去年因項(xiàng)目需要,用python寫了個(gè)爬蟲。因爬到的數(shù)據(jù)需要存到生產(chǎn)環(huán)境的PG數(shù)據(jù)庫。所以需要將腳本部署到CentOS服務(wù)器,并設(shè)置定時(shí)任務(wù),自動(dòng)啟動(dòng)腳本。

實(shí)施步驟如下:

1.安裝pip(操作系統(tǒng)自帶了python2.6可以直接用,但是沒有pip)

            
# 下載pip安裝包
wget "https://pypi.python.org/packages/source/p/pip/pip-1.5.4.tar.gz#md5=834b2904f92d46aaa333267fb1c922bb" --no-check-certificate
# 解壓安裝包并安裝
tar -xzvf pip-1.5.4.tar.gz
cd pip-1.5.4
python setup.py install
          

2.用pip安裝第三方庫

            
pip install PyGreSQL==5.0.3
pip install requests==2.18.3
          

3.設(shè)置定時(shí)任務(wù)

            
# 開啟定時(shí)任務(wù)服務(wù)
service crond start
# 查看定時(shí)任務(wù)服務(wù)狀態(tài)
service crond status
# 打開定時(shí)任務(wù)編輯窗口
crontab -e 
# 添加兩條定時(shí)任務(wù),即每天0點(diǎn)0分和12點(diǎn)20分各執(zhí)行一次,并寫入日志
0 0 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 &

20 12 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 &

定時(shí)任務(wù)語法如下:
# For details see man 4 crontabs

# Example of job definition:
# .---------------- minute (0 - 59)
# | .------------- hour (0 - 23)
# | | .---------- day of month (1 - 31)
# | | | .------- month (1 - 12) OR jan,feb,mar,apr ...
# | | | | .---- day of week (0 - 6) (Sunday=0 or 7) OR sun,mon,tue,wed,thu,fri,sat
# | | | | |
# * * * * * user-name command to be executed
          

以上這篇Linux部署python爬蟲腳本,并設(shè)置定時(shí)任務(wù)的方法就是小編分享給大家的全部內(nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。


更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號(hào)聯(lián)系: 360901061

您的支持是博主寫作最大的動(dòng)力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點(diǎn)擊下面給點(diǎn)支持吧,站長非常感激您!手機(jī)微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點(diǎn)擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動(dòng)力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會(huì)非常 感謝您的哦!!!

發(fā)表我的評(píng)論
最新評(píng)論 總共0條評(píng)論
主站蜘蛛池模板: 宜兰县| 西乡县| 忻州市| 西乌珠穆沁旗| 井陉县| 湖州市| 桂林市| 茶陵县| 上林县| 开平市| 潮安县| 玉林市| 诏安县| 甘南县| 同德县| 大余县| 和平区| 平南县| 斗六市| 普陀区| 新津县| 大连市| 鹤岗市| 武宁县| 罗定市| 张家界市| 阿城市| 鱼台县| 都江堰市| 新民市| 深泽县| 禄劝| 玉屏| 阿克陶县| 磐石市| 庆安县| 顺平县| 张家界市| 山阴县| 隆化县| 全州县|