在前面一节中带领大家了解了scrapy框架的基本架构与使用，且与前面我们自己写的简单的架构进行了比较，让大家能够很容易明白这个框架的数据流的流程。然后带领大家爬取了一个页面的妹纸图让大家更容易上手，接下来就带领大家正式使用scrapy框架爬取全部页面的妹纸图，为了心仪的妹纸一定要学会哦，哈哈哈. 在前面一节中我们说过scrapy框架自动帮我们创建的工程包括一下几个板块： spider:这个是需要我们自定义实现的spider组件，主要是重写其parse函数来解析传进来的Response对象 items：用来定义我们需…

在前面的文章中，我带领大家一步一步从学习了爬虫的理论知识，相信大家为了心仪的妹纸都已经学会了，最后也动手写了一个简单的爬虫架构，之所以抽象出一个简单的架构就是为了让大家能够更好的理解爬虫框架，正所谓‘不要重复造轮子’，一个成熟框架是经过很多场景使用的考验的，其稳定性和功能的强大性远比我们自己写一个爬虫程序要好的多，因此本节就带领大家玩一下常见的爬虫框架scrapy。 python常见的爬虫架构一般包括pyspider和scrapy，前者是国人搞的，容易上手，但是在对windows的支持性不是很好，在win下很容易出…