小男孩‘自慰网亚洲一区二区,亚洲一级在线播放毛片,亚洲中文字幕av每天更新,黄aⅴ永久免费无码,91成人午夜在线精品,色网站免费在线观看,亚洲欧洲wwwww在线观看

分享

Python爬蟲IP代理教程,讓你不再為IP被封禁發(fā)愁!

 小米VIP 2020-08-21

本文來源沒啥特別,因?yàn)闆]使用ip代理導(dǎo)致爬取boos直聘數(shù)據(jù)時(shí),ip被封了,不過好在已解決,想看看博主的爬蟲文章的可以點(diǎn)擊下方鏈接,還是蠻全的。

一、免費(fèi)代理ip地址推薦

站大爺
快代理
芝麻代理

芝麻代理需要注冊,但注冊后每天可以領(lǐng)取代理,還是很不錯(cuò)的
站大爺和快代理都有免費(fèi)的開放代理
快代理也可以注冊賬號,在免費(fèi)代理頁面通過人工客服也可以領(lǐng)取試用獨(dú)有IP

二、reuqests的ip代理

文章使用 http:///ip 這個(gè)測試 HTTP 請求及響應(yīng)的網(wǎng)站

沒使用ip代理之前

import requestsresponse = requests.get("http:///ip")print(response.text)

使用ip代理之后

import requestsproxy = {    'http': '171.35.171.247:9999'}response = requests.get("http:///ip",proxies=proxy)print(response.text)

可以看見返回的ip和代理的ip一樣

三、selenium的ip代理

沒使用代理之前

from selenium import webdriverdriver = webdriver.Chrome()driver.get("http:///ip")

使用代理之后

from selenium import webdriveroptions = webdriver.ChromeOptions()#添加IP代理options.add_argument("--proxy-server=http://183.166.149.193:20005")driver = webdriver.Chrome(chrome_options=options)driver.get("http:///ip")

四、ip代理大坑(重點(diǎn))

ip代理有http和https的區(qū)別,但很多小伙伴不清楚到底有什么區(qū)別,經(jīng)過博主踩坑后終于搞懂了,在線分享給大家

1.

2.

結(jié)論:如果請求的ip是https類型的,但代理的ip是只支持http的,那么還是使用本機(jī)的ip,
如果請求的ip是http類型的,那么代理的ip一定要是http的,前面不能寫成https。

    本站是提供個(gè)人知識管理的網(wǎng)絡(luò)存儲空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評論

    發(fā)表

    請遵守用戶 評論公約

    類似文章 更多