Scrapy入门(一)

文章目录

提示:以下是本篇文章正文内容,下面案例可供参考

一、Scrapy是什么?

爬虫中封装好的一个明星框架。
功能:高性能的持久化存储,异步的数据下载,高性能的数据解析。

二、安装步骤

1.mac系统

  • pip install scrapy

2.win系统

  • pip install wheel
  • 下载twisted,下载地址为http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted
    Scrapy入门(一)
  • 安装twisted:pip install Twisted‑20.3.0‑cp36‑cp36m‑win_amd64.whl (cp后面代表pythonb版本)
  • pip install pywin32
  • pip install scrapy
    安装成功如下:
    Scrapy入门(一)

; 三、基本使用方法

1.创建一个工程

  • scrapy startproject xxxPro

2. 在spiders子目录中创建一个爬虫文件

  • cd xxxPro
  • scrapy genspider spiderName www.xxx.com

3. 执行一个工程

  • scrapy crawl spiderName

总结

本文对scrapy进行了基本的介绍,如何进行安装,以及基本的使用方法。
后续会对,其中具体操作进行详细介绍。

Original: https://blog.csdn.net/qq_46045003/article/details/127988820
Author: Pu11
Title: Scrapy入门(一)

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/790357/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球