python scrapy爬虫遇见301_pycharm下打开、执行并调试scrapy爬虫程序的方法

首先得有一个Scrapy项目,我在Desktop上新建一个Scrapy的项目叫test,在Desktop目录打开命令行,键入命令:scrapy startproject test1

目录结构如下:

打开Pycharm,选择open

选择项目,ok

打开如下界面之后,按alt + 1, 打开project 面板

在test1/spiders/,文件夹下,新建一个爬虫spider.py, 注意代码中的name=”dmoz”。这个名字后面会用到。

在test1目录和scrapy.cfg同级目录下面,新建一个begin.py文件(便于理解可以写成main.py),注意箭头2所指的名字和第5步中的name=’dmoz’名字是一样的。

?

  1. 上面把文件搞定了,下面要配置一下pycharm了。点击Run->Edit Configurations

  2. 新建一个运行的python模块

  3. Name:改成spider; script:选择刚才新建的那个begin.py文件;Working Direciton:改成自己的工作目录

  4. 至此,大功告成了,点击下图,右上角的按钮就能运行了。

调试

可以在其他代码中设置断点,就可以debug运行

遇到问题

  1. Unknown command: crawl

调试运行,断点并未命中,控制台输出信息如下:

?

工作目录设置有误,造成无法识别 scrapy 命令,按照上文所说,将工作目录设置为包含 scrapy.cfg,重新运行,问题解决。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。

原文链接:http://blog.csdn.net/u012052268/article/details/72063917

Original: https://blog.csdn.net/weixin_42181545/article/details/112941533
Author: 曲奇小朋友
Title: python scrapy爬虫遇见301_pycharm下打开、执行并调试scrapy爬虫程序的方法

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/792181/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球