1、概述
Scrapy，Python开发的一个快速、高层次的屏幕抓取和web抓取框架，用于抓取web站点并从页面中提取结构化的数据。Scrapy用途广泛，可以用于数据挖掘、监测和自动化测试。他是一个框架，可供任何人修改。
2、五大基本构成
Scrapy框架主要由五大组件组成，它们分别是调度器(Scheduler)、下载器(Downloader)、爬虫（Spider）和实体管道(Item Pipeline)、Scrapy引擎(Scrapy Engine)。下面我们分别介绍各个组件的作用。
这些文件主要是：
scrapy.cfg: 项目配置文件
items.py: 项目items文件
pipelines.py: 项目管道文件
settings.py: 项目配置文件
spiders: 放置spider的目录
3、scrapy安装步骤
3.1 调出cmd
3.2 输入python -m pip install --upgrade pip更新下载器
3.3 pip install wheel
3.4 pip install lxml
3.5pip install twisted
3.6 pip install pywin32
3.7 pip install scrapy
4、代码部分
CONCURRENT_REQUESTS：最大并发数，很好理解，就是同时允许开启多少个爬虫线程
DOWNLOAD_DELAY：下载延迟时间，单位是秒
Original: https://blog.csdn.net/qq_58243412/article/details/123938298
Author: 我去逮个兔子
Title: scrapy安装与使用
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/788596/
转载文章受原作者版权保护。转载请注明原作者出处！