scrapy.Request callback不执行


1.在scrapy.Request方法里边加上参数dont_filter=True(去重)
2.增加是不是allowed_domains范围内的url
3.yield Request 改为yield scrapy.http.Request
4.在scrapy.Request方法里边添加errback=self.errback,然后在外边写 errback方法,获取错误信息,针对错误信息查找资料
yield scrapy.Request(url=hear,callback=self.parse_x,meta={"item":deepcopy(item)},errback=self.errback)

def errback(self,failure):
        self.logger.error(repr(failure))

Original: https://www.cnblogs.com/kzhp/p/16388970.html
Author: 风中的琥珀
Title: scrapy.Request callback不执行

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/597182/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球