Scrapy框架中Puppeteer渲染功能如何应用？

本文共计1086个文字，预计阅读时间需要5分钟。

1. Scrapy框架Scrapy是一个基于Python的强大框架，专为爬取网站数据、提取结构性数据而设计。其应用范围非常广泛。框架优势，用户只需定义少量模块，即可轻松实现爬虫功能。

1、Scrapy框架

Scrapy是用纯Python实现一个为了爬取网站数据、提取结构性数据而编写的应用框架，用途非常广泛。
框架的力量，用户只需要定制开发几个模块就可以轻松的实现一个爬虫，用来抓取网页内容以及各种图片，非常之方便。
Scrapy 使用了 Twisted'twɪstɪd异步网络框架来处理网络通讯，可以加快我们的下载速度，不用自己去实现异步框架，并且包含了各种中间件接口，可以灵活的完成各种需求。

• Scrapy Engine(引擎): 负责Spider、ItemPipeline、Downloader、Scheduler中间的通讯，信号、数据传递等。
• Scheduler(调度器): 它负责接受引擎发送过来的Request请求，并按照一定的方式进行整理排列，入队，当引擎需要时，交还给引擎。