源码网商城,靠谱的源码在线交易网站 我的订单 购物车 帮助

源码网商城

Python爬取京东的商品分类与链接

  • 时间:2021-07-11 05:55 编辑: 来源: 阅读:
  • 扫一扫,手机访问
摘要:Python爬取京东的商品分类与链接
[b]前言[/b] 本文主要的知识点是使用Python的[code]BeautifulSoup[/code]进行多层的遍历。 [img]http://files.jb51.net/file_images/article/201608/201682691944196.png?201672691956[/img] 如图所示。只是一个简单的哈,不是爬取里面的隐藏的东西。 [b]示例代码[/b]
from bs4 import BeautifulSoup as bs
import requests
headers = {
  "host": "www.jd.com",
  "User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/47.0.2526.80 Safari/537.36 Core/1.47.933.400 QQBrowser/9.4.8699.400",
  "Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8"
  }
session = requests.session()
def get_url():
  renspned = bs(session.get('http://www.jd.com/',headers = headers).text,'html.parser')
  for i in renspned.find("div", {"class": "dd-inner"}).find_all("a",{"target":"_blank"}):
    print(i.get_text(),':',i.get('href'))
get_url()
运行这段代码以及达到了我们的目的。 [img]http://files.jb51.net/file_images/article/201608/201682692102972.png?201672692113[/img] [b]我们来解读一下这段代码。 [/b] 首先我们要访问到京东的首页。 然后通过[code]BeautifulSoup[/code]对访问到的首页进行解析。 这个时候,我们就要定位元素,来获取我们需要的东西了。 在浏览器中通过[code]F12[/code],我们可以看到下图所示的东西: [img]http://files.jb51.net/file_images/article/201608/201682692158246.png?20167269226[/img] 我们来看看下面这句代码:
for i in renspned.find("div", {"class": "dd-inner"}).find_all("a",{"target":"_blank"})
这一行代码完全满足我们的需求,首先用[code]find[/code]方法,定位到了[code]class=“dd-inner[/code]”的div,然后使用[code]find_all[/code]对该标签下所有的a标签。 最后,我想打印出所有的商品分类以及对应的链接,于是,我使用了[code]i.get_text()[/code]和[code]i.get('href')[/code]的方法终于获取到了商品分类和对应的链接。 [b]总结[/b] 其实不是很难,主要是要用对方法。笔者因为是初学方法没有用对。花了差不多两天时间才搞定。这里也是告诉大家,可以使用[code]find().find_all()[/code]的方法进行多层的遍历。以上就是我利用Python爬取京东的商品分类与链接的一些经验,希望对大家学习python能有所帮助。
  • 全部评论(0)
联系客服
客服电话:
400-000-3129
微信版

扫一扫进微信版
返回顶部