源码网商城,靠谱的源码在线交易网站 我的订单 购物车 帮助

源码网商城

Python爬虫:通过关键字爬取百度图片

  • 时间:2022-09-23 21:20 编辑: 来源: 阅读:
  • 扫一扫,手机访问
摘要:Python爬虫:通过关键字爬取百度图片
使用工具:Python2.7 [url=https://www.python.org/downloads/release/python-2712/]点我下载[/url] scrapy框架 sublime text3 [b]一。搭建python(Windows版本)[/b] [b] 1.安装python2.7 ---然后在cmd当中输入python,界面如下则安装成功[/b] [img]http://files.jb51.net/file_images/article/201702/2017021709522614.png[/img] [b] 2.集成Scrapy框架----输入命令行:pip install Scrapy[/b] [img]http://files.jb51.net/file_images/article/201702/2017021709522615.png[/img] 安装成功界面如下: [img]http://files.jb51.net/file_images/article/201702/2017021709522616.png[/img] 失败的情况很多,举例一种: [img]http://files.jb51.net/file_images/article/201702/2017021709522617.png[/img] 解决方案: 其余错误可百度搜索。 [b]二。开始编程。[/b] [b]1.爬取无反爬虫措施的静态网站。例如百度贴吧,豆瓣读书。[/b] 例如-《桌面吧》的一个帖子[url=https://tieba.baidu.com/p/2460150866?red_tag=3569129009]https://tieba.baidu.com/p/2460150866?red_tag=3569129009[/url] python代码如下: [img]http://files.jb51.net/file_images/article/201702/2017021709522719.png[/img] 代码注释:引入了两个模块urllib,re。定义两个函数,第一个函数是获取整个目标网页数据,第二个函数是在目标网页中获取目标图片,遍历网页,并且给获取的图片按照0开始排序。 注:re模块知识点: [img]http://files.jb51.net/file_images/article/201702/2017021709522720.png[/img] 爬取图片效果图: [img]http://files.jb51.net/file_images/article/201702/2017021709522721.png[/img] 图片保存路径默认在建立的.py同目录文件下。 [b]2.爬取有反爬虫措施的百度图片。如百度图片等。[/b] 例如关键字搜索“表情包”https://image.baidu.com/search/index?tn=baiduimage&ct=201326592&lm=-1&cl=2&ie=gbk&word=%B1%ED%C7%E9%B0%FC&fr=ala&ori_query=%E8%A1%A8%E6%83%85%E5%8C%85&ala=0&alatpl=sp&pos=0&hs=2&xthttps=111111 图片采用滚动式加载,先爬取最优先的30张。 代码如下: [img]http://files.jb51.net/file_images/article/201702/2017021709522722.png[/img] 代码注释:导入4个模块,os模块用于指定保存路径。前两个函数同上。第三个函数使用了if语句,并tryException异常。 爬取过程如下: [img]http://files.jb51.net/file_images/article/201702/2017021709522723.png[/img] 爬取结果: [img]http://files.jb51.net/file_images/article/201702/2017021709522724.png[/img] 注:编写python代码注重对齐,and不能混用Tab和空格,易报错。 以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,同时也希望多多支持编程素材网!
  • 全部评论(0)
联系客服
客服电话:
400-000-3129
微信版

扫一扫进微信版
返回顶部