網(wǎng)頁爬蟲 - Python requests.get 爬蟲 設置代理 IP地址未改變
問題描述
工作需要爬取亞馬遜上面的信息,但是亞馬遜反爬蟲太厲害,同一個IP地址會被封。Python版本:3.6, IDE:Pycharm 2017.1在網(wǎng)上查了很多資料,requests庫的手冊也讀過,但是都是同一個方法,代碼如下:
import requests’’’代理IP地址(高匿)’’’proxy = {’HTTPS’: ’117.85.105.170:808’}’’’head 信息’’’head = {’User-Agent’: ’Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.102 Safari/537.36’, ’Connection’: ’keep-alive’}’’’http://icanhazip.com會返回當前的IP地址’’’p = requests.get(’http://icanhazip.com’, headers=head, proxies=proxy)print(p.text)
根據(jù)我看過的許多教程的理論,如果代理設置成功,最后顯示的IP應該是代理的IP地址,但是最終還是我真實的IP地址,這樣一來不就等于沒有設置代理么?
問題解答
回答1:proxies在你訪問http時用http的設置,訪問https時用https的設置所以你的proxy需要同時包含http及https的配置,這樣才能生效
proxy = { ’http’: ’http://117.85.105.170:808’, ’https’: ’https://117.85.105.170:808’}
相關文章:
1. javascript - sublime快鍵鍵問題2. javascript - immutable配合react提升性能?3. Apache 已經(jīng)把網(wǎng)站根目錄的改為allow from all了,但是服務器還是不能訪問?4. javascript - nodejs關于進程間發(fā)送句柄的一點疑問5. css - 寫頁面遇到個布局問題,求大佬們幫解答,在線等,急!~6. 實現(xiàn)bing搜索工具urlAPI提交7. javascript - 移動端上不能實現(xiàn)拖拽布局嗎?8. vue.js - Vue 如何像Angular.js watch 一樣監(jiān)聽數(shù)據(jù)變化9. 配置Apache時,添加對PHP的支持時語法錯誤10. phpstudy8.1支持win11系統(tǒng)嗎?

網(wǎng)公網(wǎng)安備