文章目录
提示:以下是本篇文章正文内容,下面案例可供参考
一、Scrapy是什么?
爬虫中封装好的一个明星框架。
功能:高性能的持久化存储,异步的数据下载,高性能的数据解析。
二、安装步骤
1.mac系统
- pip install scrapy
2.win系统
- pip install wheel
- 下载twisted,下载地址为http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted
- 安装twisted:pip install Twisted‑20.3.0‑cp36‑cp36m‑win_amd64.whl (cp后面代表pythonb版本)
- pip install pywin32
- pip install scrapy
安装成功如下:
; 三、基本使用方法
1.创建一个工程
- scrapy startproject xxxPro
2. 在spiders子目录中创建一个爬虫文件
- cd xxxPro
- scrapy genspider spiderName www.xxx.com
3. 执行一个工程
- scrapy crawl spiderName
总结
本文对scrapy进行了基本的介绍,如何进行安装,以及基本的使用方法。
后续会对,其中具体操作进行详细介绍。
Original: https://blog.csdn.net/qq_46045003/article/details/127988820
Author: Pu11
Title: Scrapy入门(一)
原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/790357/
转载文章受原作者版权保护。转载请注明原作者出处!