首页 » Python » Scrapy 框架的介绍及安装

Scrapy 框架的介绍及安装

 

scrapy框架

  • Scrapy是用纯Python实现一个为了爬取网站数据、提取结构性数据而编写的应用框架,用途非常广泛。
  • 框架的力量,用户只需要定制开发几个模块就可以轻松的实现一个爬虫,用来抓取网页内容以及各种图片,非常之方便。
  • Scrapy 使用了 Twisted(其主要对手是Tornado)异步网络框架来处理网络通讯,可以加快我们的下载速度,不用自己去实现异步框架,并且包含了各种中间件接口,可以灵活的完成各种需求。

1

scrapy架构图(绿线为数据流通方向)

各个模块的简单介绍

2

scrapy框架的安装

一、升级pip

1

二、安装wheel

2

三、安装lxml(根据自己的python 版本和系统版本选择)

可以通过官网下载官网

3

然后到下载目录手动安装

4

 

四、安装Twisted

同样从官网下载,链接如上

5

手动安装

6

 

五、安装scrapy

7

安装完成

原文链接:Scrapy 框架的介绍及安装,转载请注明来源!

0