celery如何在python爬虫中调用文件

706次阅读
没有评论

celery如何在python爬虫中调用文件

我们在python中学习了不少调用文件的方法,小伙伴们有觉得哪种方法更适合更多人使用呢?最近小编在学习celery框架的时候,发现其也可以进行调用文件的操作,不得不说是一个意外的惊喜。相信很多小伙伴同样对celery调用文件的方法感兴趣,接下来我们在python爬虫一起学习下吧。

除了通过“`import“`然后“`add.delay()“`这种方式,我们还可以通过“`send_task()“`这种方式,我们在项目根目录另外新建一个py文件叫做 `excute_tasks.py`,在其中写下如下的代码

from tasks import add
if __name__ == '__main__':
add.delay(5, 10)

 

这时候可以在celery的worker界面看到执行的结果

[2017-05-19 14:25:48,039: INFO/MainProcess] Received task: tasks.add[f5ed0d5e-a337-45a2-a6b3-38a58efd9760]
[2017-05-19 14:25:48,074: INFO/MainProcess] Task tasks.add[f5ed0d5e-a337-45a2-a6b3-38a58efd9760] succeeded in 0.03369094600020617s: 15

 

此外,我们还可以通过“`send_task()“`来调用,将“`excute_tasks.py“`改成这样

from tasks import app
if __name__ == '__main__':
app.send_task('tasks.add', args=(10, 15),)

这种方式也是可以的。`send_task()`还可能接收到为注册(即通过`@app.task`装饰)的任务,这个时候worker会忽略这个消息

[2017-05-19 14:34:15,352: ERROR/MainProcess] Received unregistered task of type 'tasks.adds'.
 
The message has been ignored and discarded.

本篇celery框架调用文件的方法还是主要依托于不同的函数,在函数用法的学习上相信各位小伙伴已经学了很多,这里小编就不额外叙述了。

神龙|纯净稳定代理IP免费测试>>>>>>>>天启|企业级代理IP免费测试>>>>>>>>IPIPGO|全球住宅代理IP免费测试

相关文章:

版权声明:wuyou2021-05-21发表,共计981字。
新手QQ群:570568346,欢迎进群讨论 Python51学习