You are here:  Home » Python » Scrapy使用Firebug进行抓取(48)python Scrapy教程1.51以上版本

注意

Google Directory(本指南中使用的示例网站)已不再可用,因为它已被Google关闭。但是,本指南中的概念仍然有效。如果您想更新本指南以使用新的(工作)网站,您的贡献将非常受欢迎!有关 如何操作的信息,请参阅Contributing to Scrapy

介绍

本文档介绍了如何使用Firebug(一个Firefox附加组件)来使抓取过程更轻松,更有趣。对于其他有用的Firefox附加组件,请参阅 有用的Firefox附加组件以进行抓取。使用Firefox附加组件检查页面有一些注意事项,请参阅使用实时浏览器DOM检查的注意事项

在此示例中,我们将展示如何使用Firebug从Google Directory中抓取数据,该 目录包含与本教程使用的Open Directory Project相同的数据,但具有不同的面。

Firebug带有一个非常有用的功能,称为Inspect Element,它允许您通过将鼠标悬停在它们上来检查不同页面元素的HTML代码。否则,您必须通过HTML正文手动搜索标记,这可能是一项非常繁琐的任务。

在下面的屏幕截图中,您可以看到Inspect Element工具的运行情况。

 

乍一看,我们可以看到目录按类别划分,这些类别也划分为子类别。

但是,似乎有比此页面中显示的子类别更多的子类别,因此我们将继续寻找:

正如所料,子类别包含指向其他子类别的链接,还包含指向实际网站的链接,这是目录的目的。

提取数据

现在我们要编写代码来从这些页面中提取数据。

Firebug的帮助下,我们将查看包含指向网站链接的页面(例如http://directory.google.com/Top/Arts/Awards/),并了解如何使用选择器提取这些链接。我们还将使用Scrapy shell来测试那些XPath,并确保它们按预期工作。

正如您所看到的,页面标记不是很具描述性:元素不包含idclass或者任何明确标识它们的属性,因此我们将使用排名栏作为参考点来选择在构造我们时提取的数据XPath的。

使用FireBug后,我们可以看到每个链接都在一个td标记内,标记本身位于一个tr标记中,该标记还包含链接的排名栏(在另一个标记中td)。

所以我们可以选择排名栏,然后找到它的父级(the tr),最后找到链接td(包含我们想要抓取的数据)。

这导致以下XPath:

//td[descendant::a[contains(@href, "#pagerank")]]/following-sibling::td//a

使用Scrapy shell测试这些复杂的XPath表达式并确保它们按预期工作非常重要。

基本上,该表达式将查找排名栏的td元素,然后选择td具有后代a元素的任何元素,该元素的href属性包含字符串#pagerank

当然,这不是唯一的XPath,也许不是选择数据的简单方法。例如,另一种方法可能是找到任何font具有链接灰色的标签,

最后,我们可以编写我们的parse_category()方法:

def parse_category(self, response):
    # The path to website links in directory page
    links = response.xpath('//td[descendant::a[contains(@href, "#pagerank")]]/following-sibling::td/font')

    for link in links:
        item = DirectoryItem()
        item['name'] = link.xpath('a/text()').extract()
        item['url'] = link.xpath('a/@href').extract()
        item['description'] = link.xpath('font[2]/text()').extract()
        yield item

 

请注意,您可能会发现某些元素出现在Firebug中,但不会出现在原始HTML中,例如<tbody> 元素的典型情况。

或者在页面上的其他HTML源代码可以在Firebug上检查实时DOM

评论被关闭。