目錄
前言
Redis 過期監(jiān)聽
RabbitMQ 死信
時(shí)間輪
結(jié)論
前言
日前拜讀阿牛老師的大作《領(lǐng)導(dǎo):誰再用定時(shí)任務(wù)實(shí)現(xiàn)關(guān)閉訂單,立馬滾蛋!》發(fā)現(xiàn)其方案有若干瑕疵,特此拋磚引玉討論一二。
在電商、支付等領(lǐng)域,往往會(huì)有這樣的場景,用戶下單后放棄支付了,那這筆訂單會(huì)在指定的時(shí)間段后進(jìn)行關(guān)閉操作。
細(xì)心的你一定發(fā)現(xiàn)了像某寶、某東都有這樣的邏輯,而且時(shí)間很準(zhǔn)確,誤差在 1s 內(nèi),那他們是怎么實(shí)現(xiàn)的呢?
一般實(shí)現(xiàn)的方法有幾種:
使用 RocketMQ、RabbitMQ、Pulsar 等消息隊(duì)列的延時(shí)投遞功能
使用 Redisson 提供的 DelayedQueue
有一些方案雖然廣為流傳但存在著致命缺陷,不要用來實(shí)現(xiàn)延時(shí)任務(wù):
使用 Redis 的過期監(jiān)聽
使用 RabbitMQ的死信隊(duì)列
使用非持久化的時(shí)間輪
Redis 過期監(jiān)聽
在 Redis 官方手冊的 keyspace-notifications: timing-of-expired-events 中明確指出:
Basically expired events are generated when the Redis server deletes the key and not when the time to live theoretically reaches the value of zero
Redis 自動(dòng)過期的實(shí)現(xiàn)方式是:定時(shí)任務(wù)離線掃描并刪除部分過期鍵;在訪問鍵時(shí)惰性檢查是否過期并刪除過期鍵。
Redis 從未保證會(huì)在設(shè)定的過期時(shí)間立即刪除并發(fā)送過期通知。實(shí)際上,過期通知晚于設(shè)定的過期時(shí)間數(shù)分鐘的情況也比較常見。
此外鍵空間通知采用的是發(fā)送即忘(fire and forget)策略,并不像消息隊(duì)列一樣保證送達(dá)。當(dāng)訂閱事件的客戶端會(huì)丟失所有在斷線期間所有分發(fā)給它的事件。
這是一種比定時(shí)掃描數(shù)據(jù)庫更 “LOW” 的解決方案,請不要使用。
RabbitMQ 死信
死信(Dead Letter)是 RabbitMQ 提供的一種機(jī)制。
當(dāng)一條消息滿足下列條件之一那么它會(huì)成為死信:
消息被否定確認(rèn)(如 channel.basicNack)并且此時(shí) requeue 屬性被設(shè)置為 false。
消息在隊(duì)列的存活時(shí)間超過設(shè)置的 TTL 時(shí)間
消息隊(duì)列的消息數(shù)量已經(jīng)超過最大隊(duì)列長度
若配置了死信隊(duì)列,死信會(huì)被 RabbitMQ 投到死信隊(duì)列中。
在 RabbitMQ 中創(chuàng)建死信隊(duì)列的操作流程大概是:
創(chuàng)建一個(gè)交換機(jī)作為死信交換機(jī)
在業(yè)務(wù)隊(duì)列中配置 x-dead-letter-exchange 和 x-dead-letter-routing-key,將第一步的交換機(jī)設(shè)為業(yè)務(wù)隊(duì)列的死信交換機(jī)
在死信交換機(jī)上創(chuàng)建隊(duì)列,并監(jiān)聽此隊(duì)列
死信隊(duì)列的設(shè)計(jì)目的是為了存儲(chǔ)沒有被正常消費(fèi)的消息,便于排查和重新投遞。死信隊(duì)列同樣也沒有對投遞時(shí)間做出保證,在第一條消息成為死信之前,后面的消息即使過期也不會(huì)投遞為死信。
為了解決這個(gè)問題,Rabbit 官方推出了延遲投遞插件 rabbitmq-delayed-message-exchange ,推薦使用官方插件來做延時(shí)消息。
這里說點(diǎn)題外話,使用 Redis 過期監(jiān)聽或者 RabbitMQ 死信隊(duì)列做延時(shí)任務(wù)都是以設(shè)計(jì)者預(yù)想之外的方式使用中間件,這種出其不意必自斃的行為通常會(huì)存在某些隱患,比如缺乏一致性和可靠性保證,吞吐量較低、資源泄漏等。
比較出名的一個(gè)事例是很多人使用 Redis 的 List 作為消息隊(duì)列,以致于最后作者看不下去寫了 Disque 并最后演變?yōu)?Redis Stream。工作中還是盡量不要濫用中間件,用專業(yè)的組件做專業(yè)的事。
時(shí)間輪
時(shí)間輪是一種很優(yōu)秀的定時(shí)任務(wù)的數(shù)據(jù)結(jié)構(gòu),然而絕大多數(shù)時(shí)間輪實(shí)現(xiàn)是純內(nèi)存沒有持久化的。
運(yùn)行時(shí)間輪的進(jìn)程崩潰之后其中所有的任務(wù)都會(huì)灰飛煙滅,所以奉勸各位勇士謹(jǐn)慎使用。
| Redisson DelayQueue
Redisson DelayQueue 是一種基于 Redis Zset 結(jié)構(gòu)的延時(shí)隊(duì)列實(shí)現(xiàn)。DelayQueue 中有一個(gè)名為 timeoutSetName 的有序集合,其中元素的 score 為投遞時(shí)間戳。
DelayQueue 會(huì)定時(shí)使用 zrangebyscore 掃描已到投遞時(shí)間的消息,然后把它們移動(dòng)到就緒消息列表中。
DelayQueue 保證 Redis 不崩潰的情況下不會(huì)丟失消息,在沒有更好的解決方案時(shí)不妨一試。
在數(shù)據(jù)庫索引設(shè)計(jì)良好的情況下,定時(shí)掃描數(shù)據(jù)庫中未完成的訂單產(chǎn)生的開銷并沒有想象中那么大。
在使用 Redisson DelayQueue 等定時(shí)任務(wù)中間件時(shí)可以同時(shí)使用掃描數(shù)據(jù)庫的方法作為補(bǔ)償機(jī)制,避免中間件故障造成任務(wù)丟失。
結(jié)論
總結(jié)了幾點(diǎn)如下:
首先推薦使用 RocketMQ、Pulsar 等擁有定時(shí)投遞功能的消息隊(duì)列。
在不方便獲得專業(yè)消息隊(duì)列時(shí)可以考慮使用 Redisson DelayQueue 等基于 Redis 的延時(shí)隊(duì)列方案,但要為 Redis 崩潰等情況設(shè)計(jì)補(bǔ)償保護(hù)機(jī)制。
在無法使用 Redisson DelayQueue 等方案時(shí)可以考慮使用時(shí)間輪。由于時(shí)間輪重啟遠(yuǎn)比 Redis 重啟要頻繁,定時(shí)掃庫等保護(hù)機(jī)制更為重要。
永遠(yuǎn)不要使用 Redis 過期監(jiān)聽實(shí)現(xiàn)定時(shí)任務(wù)。
原文標(biāo)題:永遠(yuǎn)不要使用Redis過期監(jiān)聽實(shí)現(xiàn)定時(shí)任務(wù)!
文章出處:【微信公眾號:馬哥Linux運(yùn)維】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
-
存儲(chǔ)
+關(guān)注
關(guān)注
13文章
4328瀏覽量
85940 -
數(shù)據(jù)庫
+關(guān)注
關(guān)注
7文章
3822瀏覽量
64506 -
Redis
+關(guān)注
關(guān)注
0文章
376瀏覽量
10887
原文標(biāo)題:永遠(yuǎn)不要使用Redis過期監(jiān)聽實(shí)現(xiàn)定時(shí)任務(wù)!
文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運(yùn)維】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論