python - 如何爬取登錄后的socket連接
問(wèn)題描述
需要爬取一個(gè)登錄以后的socket連接,這個(gè)socket會(huì)不定期的傳數(shù)據(jù)到網(wǎng)頁(yè)上,然后我目前只能通過(guò)不斷刷新網(wǎng)頁(yè)去完成,有沒(méi)有什么好的辦法可以去爬取需要網(wǎng)頁(yè)登錄后的socket呢?
===繼續(xù)描述:
已實(shí)現(xiàn)的部分模擬登錄 (selenium模擬登錄)
偽造UA,刷新cookies,刷新sessionID(通過(guò)不停的登錄登出換cookie,定時(shí)結(jié)束webdriver再重啟來(lái)刷新sessionID)
通過(guò)Xpath 來(lái)獲取頁(yè)面的數(shù)據(jù)(lxml)
想要的結(jié)果(未實(shí)現(xiàn))他的socket數(shù)據(jù)是這樣傳給瀏覽器的,我就是想用python搞個(gè)socket client接進(jìn)這個(gè)socket,然后等服務(wù)器推給我數(shù)據(jù).
總的來(lái)說(shuō),爬一個(gè)時(shí)間點(diǎn)的數(shù)據(jù)并不困難,但是對(duì)于長(zhǎng)連接的持續(xù)爬蟲,持續(xù)監(jiān)控,響應(yīng)式監(jiān)控我在網(wǎng)上找不到好的辦法,如果是設(shè)置定時(shí)任務(wù)去爬蟲,則當(dāng)采樣周期過(guò)小的時(shí)候(小于1秒),則運(yùn)算等成本過(guò)高且容易被封掉,有沒(méi)有什么好的辦法呢
問(wèn)題解答
回答1:HTTP是無(wú)狀態(tài)的,所以你的登陸以后狀態(tài)是通過(guò)傳給服務(wù)器一個(gè)或多個(gè)特殊值(一般在報(bào)文頭的cookie字段里)來(lái)確定的。抓一下HTTP包,然后模擬時(shí)帶上這些特殊值就OK了。
更新內(nèi)容:看到它Status Code了,這應(yīng)該是將連接換成websocket了,那么這個(gè)頁(yè)面一定是對(duì)方來(lái)提供的了。你可以看一下頁(yè)面的源碼,應(yīng)該會(huì)有var ws = new WebSocket('ws://ip:3000'); 之類的內(nèi)容。看一下對(duì)方客戶端的要求,然后改寫ws.onmessage回調(diào)函數(shù),這個(gè)函數(shù)的話內(nèi)容就任你拿捏了,你可以用它來(lái)判斷返回了新內(nèi)容或者再去請(qǐng)求另一個(gè)服務(wù)器來(lái)處理這些新內(nèi)容。你可以看一下這篇文章 網(wǎng)頁(yè)實(shí)時(shí)聊天之PHP實(shí)現(xiàn)websocket 的客戶端部分,試著修改來(lái)實(shí)現(xiàn)你的需求。
回答2:找個(gè)websockt客戶端庫(kù)連就好了啊
相關(guān)文章:
1. javascript - immutable配合react提升性能?2. javascript - sublime快鍵鍵問(wèn)題3. javascript - nodejs關(guān)于進(jìn)程間發(fā)送句柄的一點(diǎn)疑問(wèn)4. Apache 已經(jīng)把網(wǎng)站根目錄的改為allow from all了,但是服務(wù)器還是不能訪問(wèn)?5. 實(shí)現(xiàn)bing搜索工具urlAPI提交6. javascript - 移動(dòng)端上不能實(shí)現(xiàn)拖拽布局嗎?7. vue.js - Vue 如何像Angular.js watch 一樣監(jiān)聽(tīng)數(shù)據(jù)變化8. phpstudy8.1支持win11系統(tǒng)嗎?9. 配置Apache時(shí),添加對(duì)PHP的支持時(shí)語(yǔ)法錯(cuò)誤10. css - 寫頁(yè)面遇到個(gè)布局問(wèn)題,求大佬們幫解答,在線等,急!~

網(wǎng)公網(wǎng)安備