在爬取的過程中難免發(fā)生ip被封和403錯(cuò)誤等等，這都是網(wǎng)站檢測出你是爬蟲而進(jìn)行反爬措施，在這里為大家總結(jié)一下怎么用IP代理防止被封

首先，設(shè)置等待時(shí)間：

常見的設(shè)置等待時(shí)間有兩種，一種是顯性等待時(shí)間（強(qiáng)制停幾秒），一種是隱性等待時(shí)間（看具體情況，比如根據(jù)元素加載完成需要時(shí)間而等待）圖1是顯性等待時(shí)間設(shè)置，圖2是隱性

第二步，修改請求頭：

識(shí)別你是機(jī)器人還是人類瀏覽器瀏覽的重要依據(jù)就是User-Agent，比如人類用瀏覽器瀏覽就會(huì)使這個(gè)樣子的User-Agent：'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36'

第三步，采用代理ip/建代理ip池

直接看代碼。利用動(dòng)態(tài)ip代理，可以強(qiáng)有力地保障爬蟲不會(huì)被封，能夠正常運(yùn)行。圖1為使用代理ip的情況，圖2是建ip代理池的代碼，有沒有必要需要看自己的需求，大型項(xiàng)目是必須用大量ip的。

做好以上3個(gè)步驟，大致爬蟲的運(yùn)行就不成問題了。 做好以上3個(gè)步驟，大致爬蟲的運(yùn)行就不成問題了。

以上就是本次介紹的全部內(nèi)容，感謝大家的學(xué)習(xí)和對腳本之家的支持。