阅读量:0
文章目录
前言⭐✨💫🔥📖
在构建复杂的Web应用，如线上教育平台时，异步任务处理与定时任务调度成为提升性能和用户体验的关键。Celery 作为分布式任务队列框架，以其高效、灵活和可扩展性在Python项目中广泛应用。
本文将简述Celery的基本概念，并详细指导如何在Django项目中集成Celery，以实现订单超时自动取消的功能。同时，我们还将探讨如何设置定时任务，对成功和失败的订单进行统一处理，以优化业务流程和提高系统自动化水平。
一、Celery⭐
项目仓库：https://github.com/celery/celery/
官方文档：https://docs.celeryproject.org/en/latest/
中文文档（3.1）：http://docs.jinkan.org/docs/celery/getting-started/index.html
1.基本概念及介绍:✨
- Celery是一个由Python编写的分布式任务队列和异步处理框架，它使得开发者能够轻松地在后台处理耗时任务，而不会阻塞主程序的执行。
- Celery的设计基于生产者消费者模型，通过消息中间件（Broker）来协调任务的发布和执行。
Celery的核心组件包括：
- 1.任务（Tasks）：定义了要异步执行的功能。它们通常是一个普通的Python函数，通过装饰器标记为Celery任务。
- 2.工作者（Workers）：运行在后台的进程，不断地从消息队列中取出任务并执行。你可以运行多个工作者来并行处理任务。
- 3.消息中间件（Message Broker）：用于***接收任务并将它们放入队列中，同时负责结果的存储。Celery 支持多种中间件，如RabbitMQ、Redis、Amazon SQS等。
- 4.定时任务配制（beat）：三种模式 cron模式、date模式、interval模式
- 5.任务结果后端（Result Backend）：用于存储任务的结果，以便任务完成后可以查询。后端可以是数据库、缓存系统等，Celery支持包括Redis、RabbitMQ、SQLAlchemy在内的多种存储方式。
Celery的整体流程：
- 应用程序将一个任务添加到任务队列中。
- 消息中间件接收这个任务并将它存储在适当的消息队列里。
- Celery 工作者监听这些队列，一旦发现新任务，就会取出并执行它。
- 任务执行的结果可以被存储在结果后端，供后续查询。
Celery 支持任务的链式执行、定时任务（使用celery beat）、任务优先级设置、任务结果的跟踪和重试机制等高级特性，非常适合需要高性能异步处理和任务调度的场景。
2.使用步骤💫
1.创建Celery：
web_back/celery.py
import os from celery import Celery # 必须在实例化celery应用对象之前执行 os.environ.setdefault('DJANGO_SETTINGS_MODULE', 'web_back.settings') # 实例化celery应用对象 app = Celery('web_back') # 指定任务的队列名称 app.conf.task_default_queue = 'Celery' # 也可以把配置写在django的项目配置中 app.config_from_object('django.conf:settings', namespace='CELERY') # 设置django中配置信息以 "CELERY_"开头为celery的配置信息 # 自动根据配置查找django的所有子应用下的tasks任务文件 app.autodiscover_tasks() 2.使用Celery：
web_back/__init__.py
import pymysql pymysql.version_info=(1,4,3,"final",0) # 指定了pymysql的版本：1.4.3,按照版本修改 pymysql.install_as_MySQLdb() from .celery import app as celery_app __all__ = ['celery_app'] 3.settings.py 配置
# Celery配置 # from kombu import Exchange, Queue # 设置任务接受的类型，默认是{'json'} CELERY_ACCEPT_CONTENT = ['application/json'] # 设置task任务序列列化为json CELERY_TASK_SERIALIZER = 'json' # 请任务接受后存储时的类型 CELERY_RESULT_SERIALIZER = 'json' # 时间格式化为中国时间 CELERY_TIMEZONE = 'Asia/Shanghai' # 是否使用UTC时间 CELERY_ENABLE_UTC = False # 指定borker为redis 如果指定rabbitmq CELERY_BROKER_URL = 'amqp://guest:guest@localhost:5672//' CELERY_BROKER_URL = 'redis://127.0.0.1:6379/0' # 指定存储结果的地方，支持使用rpc、数据库、redis等等，具体可参考文档 # CELERY_RESULT_BACKEND = 'db+mysql://scott:tiger@localhost/foo' # mysql 作为后端数据库 CELERY_RESULT_BACKEND = 'redis://127.0.0.1:6379/1' # 设置任务过期时间 默认是一天，为None或0 表示永不过期 CELERY_TASK_RESULT_EXPIRES = 60 * 60 * 24 # 设置worker并发数，默认是cpu核心数 # CELERYD_CONCURRENCY = 12 # 设置每个worker最大任务数 CELERYD_MAX_TASKS_PER_CHILD = 100 # 指定任务的位置 CELERY_IMPORTS = ( 'base.tasks', ) # 使用beat启动Celery定时任务 # schedule时间的具体设定参考：https://docs.celeryproject.org/en/stable/userguide/periodic-tasks.html # 定时任务 CELERY_BEAT_SCHEDULE = { "orders_notpay": { # 定时任务 'task': 'base.tasks.cancelorders', 'schedule': 3, # 定时任务的调用时间，10表示每隔10秒调用一次任务，5*60表示每5分钟 # "schedule": crontab(hour=7, minute=30, day_of_week=1),, # 定时任务的调用时间，每周一早上7点30分调用一次add任务 }, "syn_mysqlEs": { # 定时任务：每一分钟同步一次mysql到es的数据 'task': 'base.tasks.syn_mysql_es', 'schedule': 3, # 定时任务的调用时间，10表示每隔10秒调用一次任务，5*60表示每5分钟 # "schedule": crontab(hour=7, minute=30, day_of_week=1),, # 定时任务的调用时间，每周一早上7点30分调用一次add任务 }, } 4.设置tasks 任务：
#base/tasks.py from celery import shared_task from ronglianyunapi import send_sms as sms # 记录日志： import logging logger = logging.getLogger("django") @shared_task(name="send_sms") def send_sms(tid, mobile, datas): """异步发送短信""" try: return sms(tid, mobile, datas) except Exception as e: logger.error(f"发送短信失败: {e}") 5.启动定时任务：
- 第一个终端：
celery -A web_back worker -l INFO -P eventlet- 第二个终端：
celery -A web_back beat
二、订单超时 取消订单（Celery）🔥
实现流程：
- 1.生成订单把当前时间+1800，和订单号存入队列中
- 2.在支付完的回调接口中，同步根据订单号查询订单，根据查询结果改变订单状态。异步从请求中获取状态，100000支付成功，队列中删除订单号
- 3.此时队列中的就是没支付的，1分钟执行一次，查询时间<当前时间，说明已经过期了，把订单改为失败状态，积分优惠券恢复
具体实现流程📖
1.生成订单接口 OrderView
2.在支付完的回调接口中，同步根据订单号查询订单，根据查询结果改变订单状态。异步从请求中获取状态，100000支付成功，队列中删除订单号
Celery定时任务：
- 订单超时取消订单
- 处理订单成功队列
- 处理订单失败队列
@shared_task def cancelorders(): # 获取订单号 0 小于等于int（time.time()） # 遍历订单号列表 # 根据订单号查询订单表，把订单更新为失败状态 # 查看订单是否使用积分和优惠券，如果使用更新，写入积分记录表，用户表中的积分+，优惠券+ orderno = r.get_str("orderno") order = OrdersModel.objects.filter(transaction=orderno).first() pay_status = order.pay_status if pay_status == 1: #生成订单-未支付状态 order.orders_status = 7 #订单-->取消状态 #... print("取消订单操作") @shared_task def ordersuccess(): #读取成功的队列，获取到订单号 len = r.list_len("ordersuccess") while len > 0: sid = r.list_pop("ordersuccess") # 根据订单号查询订单 order = OrdersDetailModel.objects.filter(orders_id=sid).first() # 更新用户课程表 UserCourseModel.objects.create(user_id=order.user_id,course_id=order.course_id) # 更新用户课程章节表 UserCourseChapterModel.objects.create(user_id=order.user_id,course_id=order.course_id,name=order.course.name) print("订单成功时，更新用户课程表和用户课程章节表") @shared_task def orderfail(): # 读取失败的队列，获取到订单号， len = r.list_len("orderfail") while len > 0: fid = r.list_pop("orderfail") # 根据订单号查询订单 order = OrdersModel.objects.filter(orders_id=fid).first() # 更新积分记录表、用户表中总积分、优惠券 srecord = ScoreRecordModel.objects.filter(user_id=order.user_id).first() srecord.type = 1 srecord.score = order.score srecord.save() user = UsersModel.objects.filter(user_id=order.user_id).first() user.points += order.score userCoupon = UserCouponModel.objects.filter(user_id=order.user_id).first() userCoupon.status = "未使用" print("订单失败时，更新数据完成") 
