日本不卡不码高清免费观看,久久国产精品久久w女人spa,黄色aa久久,三上悠亚国产精品一区二区三区

您的位置:首頁技術文章
文章詳情頁

node.js - node async寫的爬蟲小程序請求高手指導

瀏覽:251日期:2024-08-03 18:32:21

問題描述

var cnodeUrl = 'https://segmentfault.com/';// 存放所有主題鏈接鏈接var topicUrls = [];/** * 所有的url請求完成后,ep控制異步結束,進入每一個主題 */ep.after(’topic_html’, topicUrls.length, function(topics) { var concurrencyCount = 0; // 記錄并發數 /** * 進入主題,取得題目 * @callback topics [{title:’’}] */ var fetchUrl = function(myurl, callback) {var fetchStart = new Date().getTime();concurrencyCount++;console.log(’現在的并發數是’, concurrencyCount, ’,正在抓取的是’, myurl);superagent.get(myurl).end(function(err, ssres) { if (err) {callback(err, myurl + ’ error happened!’); } var time = new Date().getTime() - fetchStart; console.log(’抓取 ’ + myurl + ’ 成功’, ’,耗時’ + time + ’毫秒’); concurrencyCount--; var $ = cheerio.load(ssres.text); var reslut = {title: $(’.question__author>a>strong’).text(),answer: $(’#answers-title’).text() }; callback(null, result);}) } // 控制最大并發數為5,在結果中取出callback返回來的整個結果數組。 async.mapLimit(topicUrls, 5, function (myurl, callback) {fetchUrl(myurl, callback); }, function (err, result) {console.log(’===== result: ======n’, result);//res.send(result); });})// 獲得所有主題鏈接 topicUrlssuperagent.get(cnodeUrl).end(function(err, sres) { if(err) {return next(err); } var $ = cheerio.load(sres.text); $(’.stream-list’).each(function(idx, element) {var $element = $(element).find(’.title>a’);var href = url.resolve(cnodeUrl, $element.attr(’href’));topicUrls.push(href); }) console.log(’get authorUrls successful!n’, topicUrls); ep.emit(’topic_html’, ’get topicUrls successful’);})

得到的結果是:

node.js - node async寫的爬蟲小程序請求高手指導

請教一下哪里出了問題?

問題解答

回答1:

重寫了下:

var async = require(’async’);var cheerio = require(’cheerio’);var superagent = require(’superagent’);var url = require(’url’);var cnodeUrl = 'https://segmentfault.com/';// 存放所有主題鏈接鏈接var topicUrls = [];// 獲得所有主題鏈接 topicUrlssuperagent.get(cnodeUrl).end(function(err, sres) { if(err) {return next(err); } var $ = cheerio.load(sres.text); $(’.stream-list__item’).each(function(idx, element) {var $element = $(element).find(’.title>a’);var href = url.resolve(cnodeUrl, $element.attr(’href’));topicUrls.push(href); }) // 控制最大并發數為5,在結果中取出callback返回來的整個結果數組。 async.mapLimit(topicUrls, 5, function (myurl, callback) {fetchUrl(myurl, callback); }, function (err, result) {console.log(’===== result: ======’, result); });})function fetchUrl(myurl,callback) { var fetchStart = new Date().getTime(); superagent.get(myurl).end(function(err, ssres) {if (err) { callback(err, myurl + ’ error happened!’);}var time = new Date().getTime() - fetchStart;console.log(’抓取 ’ + myurl + ’ 成功’, ’,耗時’ + time + ’毫秒’);// concurrencyCount--;var $ = cheerio.load(ssres.text);var reslut = { title: $(’.question__author>a>strong’).text(), answer: $(’#answers-title’).text()};callback(null, reslut); })}

你上面的代碼,我感覺你是參考

https://github.com/alsotang/node-lessons/blob/master/lesson4/app.js

這個課程寫的吧,應該是你用的eventproxy方式不正確

相關文章:
日本不卡不码高清免费观看,久久国产精品久久w女人spa,黄色aa久久,三上悠亚国产精品一区二区三区
夜鲁夜鲁夜鲁视频在线播放| 欧美好骚综合网| 91精品国产经典在线观看| 欧美日韩精品在线一区| caoporn视频在线| 精品视频一区二区三区四区五区 | 免费视频一区三区| 亚洲免费福利| 亚洲va中文在线播放免费| 亚洲四虎影院| 亚洲成人精品| 久久国产成人午夜av影院宅| 精品99久久| 日韩精品1区| 自拍日韩欧美| 日本欧美在线看| 中文字幕一区二区精品区| 亚洲+小说+欧美+激情+另类| 五月激激激综合网色播| 欧美一区成人| 精品久久97| 99久久亚洲精品蜜臀| 亚洲一区网站| 国产欧美一区二区精品久久久| 久久69成人| 亚洲ab电影| 久久久91麻豆精品国产一区| 91成人在线精品视频| 精品网站999| 久久九九精品| 蜜桃av一区二区三区电影| 深夜福利一区| 久久精品亚洲一区二区| 久久婷婷av| 亚洲精品免费观看| 麻豆国产精品777777在线| 久久蜜桃精品| 奇米色欧美一区二区三区| 成人影视亚洲图片在线| 狠狠久久婷婷| 日本成人在线视频网站| 成人在线超碰| 男女精品网站| 久久久久观看| 欧美日韩免费观看一区=区三区| 亚洲精品自拍| а√天堂8资源在线| 国产午夜久久| 麻豆91精品视频| 国产精品免费看| 麻豆精品久久| 9色精品在线| 麻豆国产欧美一区二区三区 | 91亚洲国产高清| 日韩欧美精品一区| 日韩精品久久久久久久软件91| 精品一区二区三区亚洲| 一区二区视频欧美| 欧美日韩一区二区国产| 国产一区二区亚洲| 美国av一区二区| 精品国产aⅴ| 蜜臀av亚洲一区中文字幕| 麻豆免费精品视频| 亚洲v在线看| 国产精品三p一区二区| 欧美特黄一区| 精品一区二区三区四区五区| 91精品福利| 精品一区二区三区免费看| 蜜桃av一区| 女生影院久久| 亚洲人成亚洲精品| 久久亚洲成人| 国产精品久久久久久久久久白浆| 国内精品99| 精品香蕉视频| 欧美一级网站| 久久亚洲图片| 午夜精品成人av| 国产精品白丝av嫩草影院| 国产免费成人| 中文字幕人成乱码在线观看| 久久精品 人人爱| 蜜臀久久精品| 久久国产成人午夜av影院宅| 国产成人精品免费视| 国产精品mm| 欧美日韩在线二区| a日韩av网址| 在线综合亚洲| 国产美女久久| 先锋影音国产一区| 999精品色在线播放| 日韩免费高清| 美女视频黄久久| 91精品国产经典在线观看| 亚洲综合婷婷| 午夜一级在线看亚洲| 久久免费黄色| 日韩欧美自拍| 福利片在线一区二区| 欧美激情久久久久久久久久久| 日韩精选在线| 中文字幕一区二区三区日韩精品 | 国产美女精品视频免费播放软件| 老鸭窝毛片一区二区三区| 欧美 日韩 国产精品免费观看| 日韩久久精品| 一区二区精品伦理...| 国产一区二区三区网| 蜜臀av亚洲一区中文字幕| 欧美羞羞视频| 国产日韩在线观看视频| 中文字幕一区二区三区四区久久 | 视频小说一区二区| 麻豆精品在线观看| 国产精品久久国产愉拍| 日本a口亚洲| 午夜久久av| 日本亚洲最大的色成网站www| 亚洲综合激情在线| 中文字幕日韩高清在线| 蜜臀av一区二区在线免费观看| 日韩中文字幕不卡| 综合激情在线| 深夜福利亚洲| 欧美在线91| 91在线成人| 国产一卡不卡| 欧美激情精品| 欧美好骚综合网| 999国产精品视频| 欧美特黄一级| 亚洲资源在线| 国产精品一线| 精品视频一区二区三区四区五区 | 超碰在线99| 国产精品一区二区免费福利视频| 亚洲视频www| 一区二区不卡| 日韩区一区二| 国产精品主播| 国产精品久久久久蜜臀| av在线日韩| 欧洲毛片在线视频免费观看| 老牛国产精品一区的观看方式| 蜜臀久久久久久久| 国产精品网在线观看| 国产成人免费| 在线日韩电影| 亚洲欧美日韩在线观看a三区| 亚洲精品韩国| 国产欧美自拍| 日韩欧美国产精品综合嫩v| 日韩视频不卡| 一区二区三区四区日韩| 日韩av在线播放中文字幕| 国产精品久av福利在线观看| 国产成人精选| 99视频精品| 国产欧美大片| 亚洲精品在线影院| 蜜桃久久久久久| 麻豆一区二区三| 欧美精品羞羞答答| 日韩不卡一二三区| 久久青青视频| 亚洲欧美久久| 国产免费av一区二区三区| 欧美成a人国产精品高清乱码在线观看片在线观看久 | 亚洲免费高清| 88久久精品| 久久久影院免费| 亚洲精品在线a| 色偷偷偷在线视频播放| 视频一区二区国产| 精品国产一区二区三区噜噜噜| 欧美日韩中文字幕一区二区三区| 只有精品亚洲| 91视频精品| 日本中文字幕一区二区| 亚洲天堂免费电影| 日本午夜精品久久久久| sm久久捆绑调教精品一区| 丝袜亚洲另类欧美| 成人在线视频中文字幕| 日韩影院精彩在线| 欧美13videosex性极品| 日韩和欧美的一区| 久久国产免费| 久久99精品久久久久久园产越南| 黄色成人精品网站| 麻豆成人91精品二区三区| 视频在线观看国产精品| 国产传媒在线观看| 日本在线成人| caoporn视频在线| 麻豆精品蜜桃| 欧美激情另类|