問題描述
模擬高并發的場景,會出現批量的 TIME_WAIT 的 TCP 連接:短時間后,所有的 TIME_WAIT 全都消失,被回收,端口包括服務,均正常。即,在高并發的場景下,TIME_WAIT 連接存在,屬于正常現象。線上場景中,持續的高并發場景:
-
一部分 TIME_WAIT 連接被回收,但新的 TIME_WAIT 連接產生;
-
一些極端情況下,會出現大量的 TIME_WAIT 連接。
Think:上述大量的 TIME_WAIT 狀態 TCP 連接,有什么業務上的影響嗎?Nginx 作為反向代理時,大量的短鏈接,可能導致 Nginx 上的 TCP 連接處于 time_wait 狀態:
-
每一個 time_wait 狀態,都會占用一個「本地端口」,上限為 65535(16 bit,2 Byte);
-
當大量的連接處于 time_wait 時,新建立 TCP 連接會出錯,address already in use : connect 異常
// 統計:各種連接的數量
$ netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'
ESTABLISHED 1154
TIME_WAIT 1645
Tips:TCP 本地端口數量,上限為 65535(6.5w),這是因為 TCP 頭部使用 16 bit,存儲「端口號」,因此約束上限為 65535。問題分析
大量的 TIME_WAIT 狀態 TCP 連接存在,其本質原因是什么?-
大量的短連接存在
-
特別是 HTTP 請求中,如果 connection 頭部取值被設置為 close 時,基本都由「服務端」發起主動關閉連接
-
而,TCP 四次揮手關閉連接機制中,為了保證 ACK 重發和丟棄延遲數據,設置 time_wait 為 2 倍的 MSL(報文最大存活時間)
-
TCP 連接中,主動關閉連接的一方出現的狀態;(收到 FIN 命令,進入 TIME_WAIT 狀態,并返回 ACK 命令)
-
保持 2 個 MSL 時間,即,4 分鐘;(MSL 為 2 分鐘)
解決辦法
解決上述 time_wait 狀態大量存在,導致新連接創建失敗的問題,一般解決辦法:-
客戶端,HTTP 請求的頭部,connection 設置為 keep-alive,保持存活一段時間:現在的瀏覽器,一般都這么進行了
-
服務器端 允許 time_wait 狀態的 socket 被重用 縮減 time_wait 時間,設置為 1 MSL(即,2 mins)
結論:幾個核心要點
-
time_wait 狀態的影響:
-
TCP 連接中,「主動發起關閉連接」的一端,會進入 time_wait 狀態
-
time_wait 狀態,默認會持續 2 MSL(報文的最大生存時間),一般是 2x2 mins
-
time_wait 狀態下,TCP 連接占用的端口,無法被再次使用
-
TCP 端口數量,上限是 6.5w(65535,16 bit)
-
大量 time_wait 狀態存在,會導致新建 TCP 連接會出錯,address already in use : connect 異常
-
現實場景:
-
服務器端,一般設置:不允許「主動關閉連接」
-
但 HTTP 請求中,http 頭部 connection 參數,可能設置為 close,則,服務端處理完請求會主動關閉 TCP 連接
-
現在瀏覽器中, HTTP 請求 connection 參數,一般都設置為 keep-alive
-
Nginx 反向代理場景中,可能出現大量短鏈接,服務器端,可能存在
-
解決辦法:
-
服務器端允許 time_wait 狀態的 socket 被重用
-
縮減 time_wait 時間,設置為 1 MSL(即,2 mins)
附錄
幾個方面:-
TCP 連接狀態的查詢
-
MSL 時間
-
TCP 三次握手和四次握手
// Mac 下,查詢 TCP 連接狀態
$ netstat -nat |grep TIME_WAIT
// Mac 下,查詢 TCP 連接狀態,其中 -E 表示 grep 或的匹配邏輯
$ netstat -nat | grep -E "TIME_WAIT|Local Address"
Proto Recv-Q Send-Q Local Address Foreign Address (state)
tcp4 0 0 127.0.0.1.1080 127.0.0.1.59061 TIME_WAIT
// 統計:各種連接的數量
$ netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'
ESTABLISHED 1154
TIME_WAIT 1645
附錄 B:MSL 時間 MSL,Maximum Segment Lifetime,“報文最大生存時間”Tips:RFC 793中規定MSL為2分鐘,實際應用中常用的是30秒,1分鐘和2分鐘等。2MSL,TCP 的 TIME_WAIT 狀態,也稱為2MSL等待狀態:-
當TCP的一端發起主動關閉(收到 FIN 請求),在發出最后一個ACK 響應后,即第3次握 手完成后,發送了第四次握手的ACK包后,就進入了TIME_WAIT狀態。
-
必須在此狀態上停留兩倍的MSL時間,等待2MSL時間主要目的是怕最后一個 ACK包對方沒收到,那么對方在超時后將重發第三次握手的FIN包,主動關閉端接到重發的FIN包后,可以再發一個ACK應答包。
-
在 TIME_WAIT 狀態時,兩端的端口不能使用,要等到2MSL時間結束,才可繼續使用。(IP 層)
-
當連接處于2MSL等待階段時,任何遲到的報文段都將被丟棄。 不過在實際應用中,可以通過設置 「SO_REUSEADDR選項」,達到不必等待2MSL時間結束,即可使用被占用的端口。
-
三次握手,建立連接過程
-
四次揮手,釋放連接過程
良許花了一個半月的時間研發了一門 Linux 命令課程,歡迎購買學習!
審核編輯 :李倩
-
服務器
+關注
關注
12文章
9149瀏覽量
85398 -
TCP
+關注
關注
8文章
1353瀏覽量
79068
原文標題:服務端 TCP 連接TIME_WAIT怎么破?77%的人都不知道~
文章出處:【微信號:良許Linux,微信公眾號:良許Linux】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論