源码网商城,靠谱的源码在线交易网站 我的订单 购物车 帮助

源码网商城

node.js基础模块http、网页分析工具cherrio实现爬虫

  • 时间:2020-01-16 13:41 编辑: 来源: 阅读:
  • 扫一扫,手机访问
摘要:node.js基础模块http、网页分析工具cherrio实现爬虫
[b]一、前言[/b]       说是爬虫初探,其实并没有用到爬虫相关第三方类库,主要用了node.js基础模块http、网页分析工具cherrio。 使用http直接获取url路径对应网页资源,然后使用cherrio分析。 这里我主要学习过的案例自己敲了一遍,加深理解。在coding的过程中,我第一次把jq获取后的对象直接用forEach遍历,直接报错,是因为jq没有对应的这个方法,只有js数组可以调用。 [b]二、知识点[/b]     ①:superagent抓去网页工具。我暂时未用到。     ②:cherrio 网页分析工具,你可以理解其为服务端的jQuery,因为语法都一样。 效果图 [b]1、抓取整个网页[/b]  [img]http://files.jb51.net/file_images/article/201603/2016310151027637.png?2016210151037[/img] [b]2、分析后的数据,[/b]提供的示例为案例实现的例子。 [img]http://files.jb51.net/file_images/article/201603/2016310151054167.png?201621015113[/img] [b]爬虫初探源码分析[/b]
var http=require('http');
var cheerio=require('cheerio');
 
var url='http://www.imooc.com/learn/348';
 
/****************************
打印得到的数据结构
[{
 chapterTitle:'',
 videos:[{
  title:'',
  id:''
 }]
}]
********************************/
function printCourseInfo(courseData){
 courseData.forEach(function(item){
  var chapterTitle=item.chapterTitle;
  console.log(chapterTitle+'\n');
  item.videos.forEach(function(video){
   console.log(' 【'+video.id+'】'+video.title+'\n');
  })
 });
}
 
 
/*************
分析从网页里抓取到的数据
**************/
function filterChapter(html){
 var courseData=[];
 
 var $=cheerio.load(html);
 var chapters=$('.chapter');
 chapters.each(function(item){
  var chapter=$(this);
  var chapterTitle=chapter.find('strong').text(); //找到章节标题
  var videos=chapter.find('.video').children('li');
 
  var chapterData={
   chapterTitle:chapterTitle,
   videos:[]
  };
 
  videos.each(function(item){
   var video=$(this).find('.studyvideo');
   var title=video.text();
   var id=video.attr('href').split('/video')[1];
 
   chapterData.videos.push({
    title:title,
    id:id
   })
  })
 
  courseData.push(chapterData);
 });
 
 return courseData;
}
 
http.get(url,function(res){
 var html='';
 
 res.on('data',function(data){
  html+=data;
 })
 
 res.on('end',function(){
  var courseData=filterChapter(html);
  printCourseInfo(courseData);
 })
}).on('error',function(){
 console.log('获取课程数据出错');
})
参考资料: https://github.com/alsotang/node-lessons/tree/master/lesson3 http://www.imooc.com/video/7965
  • 全部评论(0)
联系客服
客服电话:
400-000-3129
微信版

扫一扫进微信版
返回顶部