本文來源沒啥特別,因?yàn)闆]使用ip代理導(dǎo)致爬取boos直聘數(shù)據(jù)時(shí),ip被封了,不過好在已解決,想看看博主的爬蟲文章的可以點(diǎn)擊下方鏈接,還是蠻全的。 一、免費(fèi)代理ip地址推薦站大爺 快代理 芝麻代理 芝麻代理需要注冊,但注冊后每天可以領(lǐng)取代理,還是很不錯(cuò)的 站大爺和快代理都有免費(fèi)的開放代理 快代理也可以注冊賬號,在免費(fèi)代理頁面通過人工客服也可以領(lǐng)取試用獨(dú)有IP
二、reuqests的ip代理文章使用 http:///ip 這個(gè)測試 HTTP 請求及響應(yīng)的網(wǎng)站
沒使用ip代理之前 import requestsresponse = requests.get("http:///ip")print(response.text) 使用ip代理之后 import requestsproxy = { 'http': '171.35.171.247:9999'}response = requests.get("http:///ip",proxies=proxy)print(response.text) 可以看見返回的ip和代理的ip一樣 三、selenium的ip代理沒使用代理之前 from selenium import webdriverdriver = webdriver.Chrome()driver.get("http:///ip") 使用代理之后 from selenium import webdriveroptions = webdriver.ChromeOptions()#添加IP代理options.add_argument("--proxy-server=http://183.166.149.193:20005")driver = webdriver.Chrome(chrome_options=options)driver.get("http:///ip") 四、ip代理大坑(重點(diǎn))ip代理有http和https的區(qū)別,但很多小伙伴不清楚到底有什么區(qū)別,經(jīng)過博主踩坑后終于搞懂了,在線分享給大家 1. 2. 結(jié)論:如果請求的ip是https類型的,但代理的ip是只支持http的,那么還是使用本機(jī)的ip, 如果請求的ip是http類型的,那么代理的ip一定要是http的,前面不能寫成https。
|