当前位置：首页 > 资讯 > 技术文档

Node.JS利用PhantomJs抓取网页入门教程

时间：2022-01-31 22:39 编辑：来源：阅读：
扫一扫，手机访问

摘要：Node.JS利用PhantomJs抓取网页入门教程

[b]前言[/b] 当想用 nodejs 抓取一些网页 , 我第一反应想到的就是使用 http 模块 , 比如抓取百度首页:

var http = require('http');
var req = http.request('http://www.baidu.com/', function (res) {
 res.setEncoding('utf8');
 res.on('data', function (chunk) {
  //响应内容
  console.log(chunk)
 });
});
req.end(function () {
 // console.log('连接关闭');
});

但是 , 这仅限于简单地抓取 html , 有很大的局限性。假如你想要的内容不在 html 里 , 而是 js 动态生成的 , 那 http 模块就不能满足你的需求了 ; 假如网页使 gbk 编码的 , 上述方法也不太好用了。假如是 https 上述方法也要改一改了。我渴望一个更强大 , 但使用起来也不麻烦的工具。 [b]PhantomJs [/b] 用 PhantomJs 就可以解决上述问题。 PhantomJs 就是一个没有界面的浏览器。 [b]安装[/b] 使用 cnpm 安装 PhantomJS 即可:

cnpm install phantomjs --save-dev

这里我没有选择全局安装 , 因为全局安装的话 , 别人使用我的源码的时候 , 不知道还有这么一个依赖 , 项目就跑不起来了。如果你也选择局部安装 , 那么你需要在 package.json 里的 scripts 中加入一段 :

"phantomjs":"node_modules/.bin/phantomjs"

等下会用到这个的 , 到这里 , 安装算完成了。 [b]写代码[/b] 我们新建一个文件 , 名字随意 , 这里我新建一个 main.js :

var webpage = require('webpage');
var page = webpage.create();
page.open('http://www.baidu.com/', function (status) {
 var data;
 if (status === 'fail') {
  console.log('open page fail!');
 } else {
  console.log(page.content);//打印出HTML内容
 }
 page.close();//关闭网页
 phantom.exit();//退出phantomjs命令行
});

这里有个 webpage 模块 , 我们刚才明明没有这个模块 , 为什么能引用这个模块 ??? 当然不能引用 , 假如我们使用 [code]node main.js[/code] 来跑这段代码 , 是跑不起来的 , 应该这样运行这段代码 :

npm run phantomjs main.js

这里的 [code]npm run phantomjs [/code]对应的就是前面我们在 package.json 里加入的那段命令 , 很方便吧 , 几乎和 http 模块一样方便。 page.content 就是 html 代码了 , 这个 page 对象还有很多的属性 , 功能更强大。到这里 , 你就已经算入门了 , 想知道更多可以去 phantomjs 官网看看文档了。 [b]总结[/b] 以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作能带来一定的帮助，如果有疑问大家可以留言交流，谢谢大家对编程素材网的支持。

全部评论(0)

上一篇：在Node.js中使用HTTP上传文件的方法
下一篇：基于NodeJS的前后端分离的思考与实践（二）模版探索

资讯排行榜
更多>>