thorns分布式异步队列系统

联合创作 · 2023-10-01 07:02

thorns 是一个 Python 开发的分布式异步队列系统。

运行流程

  • 启动 redis 内存服务器,作为队列存储数据库使用

  • 配置芹菜 (celery) 运行环境,并连接 redis 队列内存,读取执行任务,并返回结果存储到后端 MySQL 数据库

  • 配置任务控制台花花 (flower),并连接 redis 队列内存,管理所有 worker 客户端与执行的任务队列

  • 通过 run.py 脚本调用 celery 向队列压入任务

  • 通过 flower 的 http api 脚本调用 api 向队列压入任务

  • 任务执行的结果自动存入后端数据库

运行环境:

  • CentOS、Kali Linux、Ubuntu、Debian

  • Python 2.7.x

  • Redis

  • MysQL

  • Celery

  • Tornado

  • Supervisord

浏览 7
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报