還有4天就世界杯了，作為一個資深（偽）球迷，必須要實時關(guān)注世界杯相關(guān)新聞，了解各個球隊動態(tài)，這樣才能在一堆球迷中如（大）魚（吹）得（特）水（吹），迎接大家仰慕的目光!
給大家分享一個快速了解相關(guān)信息的辦法：刷論壇！我們來一起做個虎撲論壇的爬蟲吧！
抓包獲取虎撲論壇相關(guān)帖子內(nèi)容，逐條顯示！
先來觀察下網(wǎng)頁，打開論壇首頁，選擇國際足球
然后往下拉，找到世界杯相關(guān)內(nèi)容
?
這里就是我們的目標了，所有相關(guān)的新聞都會在這里顯示，用F12打開“開發(fā)者工具”然后往下瀏覽看看數(shù)據(jù)包
注意箭頭指向的那幾個地方！
這就是剛才瀏覽的新聞所在的json包，來看看具體數(shù)據(jù)是什么
ok，標題、地址、發(fā)布時間包括來源都已經(jīng)出現(xiàn)了!我們可以直接抓取json數(shù)據(jù)然后取出相關(guān)內(nèi)容！
再進入具體新聞頁面看看
世界杯快到了，看我用Python爬蟲實現(xiàn)（偽）球迷速成！?
所有的文本內(nèi)容，都在
標簽內(nèi)，我們可以用xpath直接取div下的所有文本內(nèi)容!
這里就不一 一說明了，直接上代碼，并錄個小的GIF圖片給大家看看效果
#Q群542110741
# -*- coding:utf-8 -*-
import requests
from lxml import etree
header = {
'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:60.0) Gecko/20100101 Firefox/60.0',
'Host':'soccer.hupu.com',
'Referer':'https://soccer.hupu.com/'}
i = 0
while 1:
#構(gòu)建循環(huán)頁面翻頁
url = 'https://soccer.hupu.com/home/latest-news?league=世界杯&page='
i += 1
#獲取json數(shù)據(jù)，一頁20個
html = requests.get(url+str(i),headers=header).json()['result']
for info in html:
time_r = info['time']#發(fā)布時間
title = info['title']#標題
url_r = info['url']#新聞鏈接
origin = info['origin']#來源
print(title)
print('發(fā)布時間:',time_r,' '*5,'來自：',origin)
head = header
head['Host'] = 'voice.hupu.com'#更改header中Host參數(shù)
html_r = requests.get(url_r,headers=head)#獲取新聞詳情
html_r.encoding = 'utf-8'#編碼格式指定
#獲取div下的所有文本
datas = etree.HTML(html_r.text).xpath('//div[@class="artical-content-read"]')[0].xpath('string(.)').strip()
print('\n'+'內(nèi)容：'+'\n'*2,datas,'\n')
#可由用戶手動退出循環(huán)
if input('任意鍵繼續(xù)，“q”退出') in ['q', 'Q']:
exit()
總結(jié)
以上所述是小編給大家介紹的Python爬蟲實現(xiàn)（偽）球迷速成，希望對大家有所幫助，如果大家有任何疑問歡迎給我留言，小編會及時回復(fù)大家的！
更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主
微信掃碼或搜索：z360901061
微信掃一掃加我為好友
QQ號聯(lián)系： 360901061
您的支持是博主寫作最大的動力，如果您喜歡我的文章，感覺我的文章對您有幫助，請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧，狠狠點擊下面給點支持吧，站長非常感激您！手機微信長按不能支付解決辦法：請將微信支付二維碼保存到相冊，切換到微信，然后點擊微信右上角掃一掃功能，選擇支付二維碼完成支付。
【本文對您有幫助就好】元
