延时队列

这节延时队列就是乘着上节的锁冲突处理的延时队列来的。

但是在此之前我要讲一下我们如何编辑python文件,因为总是写在命令行不能保存代码,也不能修改。

我们可以先vi  文件名.py这样就创建了一个.py文件

然后我们到这个文件所在的位置打开这个文件就可以编辑了

保存后在命令行到达文件所在的位置输入python 文件名.py就运行了刚才编辑的python代码

 redis的消息队列不是专业的消息队列,它没有非常多的高级特性,没有ack保证,如果对消息的可靠性有着极致的追求,那么它就不适合使用。

redis的list数据结构常用来作为异步消息队列使用,客户端是通过队列的pop操作来获取消息然后进行处理。处理完了再接着获取消息,再进行处理,如此迭代,这就是作为队列消费者的客户端声明周期。但是如果队列空了,客户端会陷入pop的死循环,会浪费时间与空间。队列延迟指令可以有效的解决这一情况。blpop、brpop,这两个指令的前缀b代表的是blocking,也就是阻塞读。阻塞读在队列没有数据的时候会进入休眠状态,一旦数据到来,则立刻醒过来。消息延迟几乎为零。但是这里有一个问题,线程一直阻塞在那里,redis的客户端连接闲置太久,服务器一般会主动断开连接,减少闲置资源占用。这时blpop、brpop会抛出异常,所以编写客户端消费者的时候要小心,注意捕获异常,还要重试。

延时队列可以通过redis的zset(有序列表)来实现。我们将消息序列化一个字符串作为zset的value这个消息的到期时间作为score,然后用多个线程轮询zset获取到期的任务进行处理,多个线程是为了保障可用性,万一挂了一个线程还有其他线程可以继续处理。因为有多个线程,所以需要考虑并发争抢任务,确保任务不能被多次执行。

def delay(msg):
    msg.id=str(uuid.uuid4())
    value=json.dumps(msg)
    retry_ts=time.time()+5
    redis.zadd("delay-queue",retry_ts,value)


def loop():
    while True:
        values=redis.zrangebyscore("delay-queue",0,time.time(),start=0,num=1)
        if not value:
            time.sleep(1)
            continue
        value=values[0]

        success=redis.zrem("delay-queue",value)
        if success:
            msg=json.loads(value)
            handle_msg(msg)

redis的zrem方法是多线程多进程争抢任务的关键,它的返回值决定了当前实例有没有抢到任务,因为loop方法可能会被多个进程多个线程调用,同一个任务可能会被多个进程线程抢到,通过zrem来决定唯一的属主。同时我们要注意对handle_msg进行异常捕获,避免因为个别任务处理问题导致循环异常退出。

猜你喜欢

转载自www.cnblogs.com/fromzore/p/10034229.html