python scrapy处理翻页的方法

896次阅读
没有评论

python

python scrapy处理翻页说明

1、根据scrapy这个框架的运行特点,翻页必须和处理数据分开,不然无法执行。

2、确定url地址,构造url地址的请求对象,把请求交给引擎。

python scrapy处理翻页构造请求

scrapy.Request(url, callback)

callback:指定解析函数名称,表示该请求返回的响应使用哪一个函数进行解析。

python scrapy处理翻页实例

 scrapy.Request(url, callback=None, method='GET', headers=None, body=None, cookies=None, meta=None,
                         encoding='utf-8', priority=0, dont_filter=False, errback=None, flags=None)
神龙|纯净稳定代理IP免费测试>>>>>>>>天启|企业级代理IP免费测试>>>>>>>>IPIPGO|全球住宅代理IP免费测试

相关文章:

版权声明:wuyou2022-06-08发表,共计393字。
新手QQ群:570568346,欢迎进群讨论 Python51学习