nginx 默認沒有提供對日志文件的分割功能,所以隨著時間的增長,access.log 和 error.log 文件會越來越大,尤其是 access.log,其日志記錄量比較大,更容易增長文件大小。影響日志寫入性能分割 nginx 日志的方法有很多,這里推薦利用 Logrotate 來完成。
Logrotate 用法
1. 安裝
logrotate 是一個 Linux系統日志的管理工具。可以對單個日志文件或者某個目錄下的文件按時間 / 大小進行切割,壓縮操作;指定日志保存數量;還可以在切割之后運行自定義命令。
logrotate 是基于 crontab 運行的,所以這個時間點是由 crontab 控制的,具體可以查詢 crontab 的配置文件 /etc/anacrontab。系統會按照計劃的頻率運行 logrotate,通常是每天。在大多數的 Linux 發行版本上,計劃每天運行的腳本位于 /etc/cron.daily/logrotate。
主流 Linux 發行版上都默認安裝有 logrotate 包,如果你的 Linux 系統中找不到 logrotate, 可以使用 apt-get 或 yum 命令來安裝。
yuminstall-ylogrotate
一般 Linux 都已經自帶 logrotate,下列命令可以查看是否已安裝。
rpm-qllogrotate
2. 基本用法詳解
2.1 入門
/etc/logrotate.conf 這個文件是 logrotate 的主配置文件。
#see"manlogrotate"fordetails #rotatelogfilesweekly weekly #keep4weeksworthofbacklogs rotate4 #createnew(empty)logfilesafterrotatingoldones create #usedateasasuffixoftherotatedfile dateext #uncommentthisifyouwantyourlogfilescompressed #compress #包含自定義配置目錄 include/etc/logrotate.d #nopackagesownwtmpandbtmp--we'llrotatethemhere /var/log/wtmp{ monthly create0664rootutmp minsize1M rotate1 } /var/log/btmp{ missingok monthly create0600rootutmp rotate1 } #system-specificlogsmaybealsobeconfiguredhere.
這個主配置文件中定義了日志文件分割的通用參數。并且 include /etc/logrotate.d 表示其會加載 /etc/logrotate.d 的所有自定義配置文件,自定義配置文件中的配置可以覆蓋掉通用配置。
我們來到自定義配置文件的目錄/etc/logrotate.d。
嘗試在該目錄中創建一個日志分割配置 test,對 /opt/logtest 目錄中所有以 .log 結尾的文件進行分割。
vimtest #test配置文件的內容 /opt/logtest/*.log{ daily rotate2 copytruncate missingok }
test 配置的第一行指定要對哪個路徑的哪些文件進行分割,然后攜帶的 4 個參數解釋如下:
「daily:」 按天切割。觸發切割時如果時間不到一天不會執行切割。除了 daily,還可以選 monthly,weekly,yearly;
「rotate:」 對于同一個日志文件切割后最多保留的文件個數;
「copytruncate:」 將源日志文件切割成新文件后,清空并保留源日志文件。默認如果不啟用該配置,分割后源日志文件將被刪除。設置該值,以便分割后可以繼續在源日志文件寫入日志,等待下次分割;
「missingok:」 切割中遇到日志錯誤忽略。
創建好配置以后,系統會在每天利用 cron 定時執行 logrotate 日志分割指令。這里我們為了看到效果,不等到系統自動執行,可以手動強制執行一次日志分割。強制執行會立即進行一次日志。
#-v:顯示執行日志 #-f:強制執行分割 logrotate-vf/etc/logrotate.d/test
執行前,事先在日志所在目錄中創建 2 個測試日志文件。
touchtest1.log touchtest2.log
手動執行一次日志分割,觀察執行日志可以發現,過程如下:
先將源日志內容拷貝到分割后的文件
清空源文件
此時分割后的文件名為源文件名后面加上 . 序號,序號從 1 開始。
然后我們再次手動執行一次分割,此時執行過程如下:
將第一次分割后的日志文件 test1.log.1 重命名為 test1.log.2;
將源日志文件拷貝到此次分割后的文件,命名序號重新從 1 開始,為 test1.log.1;
清空源日志文件。
接著再次手動執行一次分割,此時執行過程如下:
將之前分割后的日志文件 test1.log.2 重命名為 test1.log.3,test1.log.1 重命名為 test1.log.2;
分割源日志文件,拷貝其內容到 test1.log.1;
由于設置了 rotate 為 2,即最多保留 2 個日志文件,所以此時要刪除最早分割出的那個日志文件,即 test1.log.3。
總結一下 logrotate 日志分割的步驟:
默認分割后日志的命名為源日志名稱 +. 序號(從 1 開始)。分割之前將所有之前分割出的日志文件重命名,序號往后移一位;
執行分割,將源日志文件分割為源日志文件名 .1。這樣就保證了所有分割后的文件中,序號最小的是最新分割出的,序號最大的是最早分割出的;
根據 rotate 設置,如果此次分割后文件數量大于 rotate 設置,那么刪除序號最大的那個分割文件,也就是最舊的分割日志。
實際開發中可以使用 create 代替 copytruncate,它們的區別如下:
copytruncate 先將源文件內容拷貝到分割后文件,再清空源文件,拷貝和清空之間有時間差,可能會丟失部分日志。另外拷貝操作在源文件比較大時消耗性能;
create 直接將源文件重命名為分割后文件,再創建一個與源文件名稱相同的新文件,用于后續日志寫入。
/opt/logtest/*.log{ daily rotate2 create#創建與源文件名稱相同的新文件,用于后續日志寫入,新文件的歸屬用戶、權限與源文件相同 missingok }
但是要注意 create 即使創建新的文件后,如果沒有主動通知應用程序,那么應用程序仍然會往舊的文件(即被重命名的那個分割后的文件)寫入日志。所以此時在分割后要通知應用程序重新打開新的日志文件進行寫入。
以通知 nginx 為例,配置如下:
/var/log/nginx/*.log{ daily rotate30 create sharedscripts#所有的文件切割之后只執行一次下面腳本,通知nginx重新打開新的日志文件進行后續寫入 postrotate if[-f/run/nginx.pid];then kill-USR1`cat/run/nginx.pid`#通過USER1信號通知nginx重新打開日志文件 fi endscript }
綜上,一般情況下如果應用程序提供了通知其打開新的日志文件的接口,那么推薦使用 create 續寫日志;否則推薦使用 copytruncate 續寫日志。
注意:
/etc/logrotate.d 中的自定義配置中,如果不配置 rotate、daily 等參數在強制手動執行時并不會繼承默認的主配置 /etc/logrotate.conf。比如不配置 rotate 時,并不會繼承保留 4 個分割文件,而是等價于 0,即不保留任何分割文件。所以自定義配置中推薦顯式指定這些參數;
在系統crontab定時任務自動執行logrotate時,自定義配置會繼承主配置文件中的參數;
logrotate 執行分割的時機要依賴于 crontab 定時任務,也就是說 crontab 定時任務每日觸發時,logrotate 才會讀取相應配置,檢查是否滿足分割的條件決定是否執行分割。這意味著,在默認 crontab 每日觸發 logrotate 的定時任務情況下,即便 logrotate 配置文件中配置的分割頻率小于1天,也將按照 1 天的頻率觸發分割,除非修改 crontab 定時任務,將 logrotate 的任務觸發頻率修改為小于 1 天。
2.2 分割文件壓縮
我們可以通過如下設置對分割后的日志文件開啟壓縮:
/opt/logtest/*.log{ daily rotate2 copytruncate missingok compress#以gzip方式壓縮 nodelaycompress#所有分割后的文件都進行壓縮 }
此時刪除原有所有文件,重新創建測試日志文件 test1.log 和 test2.log,然后手動執行分割,可以生成壓縮后的 .gz 文件。
一般可以將 nodelaycompress 改為 delaycompress,這樣分割后對最新的序號為1的文件不會進行壓縮,對其他序號的文件進行壓縮,這樣可以方便我們查看最新的分割日志。
2.3 按照時間分割
按照時間分割可以定時分割出一個日志,比如每天分割一次,配合其他參數可以完成保留最近 n 天日志的功能。以下配置可以實現每天分割一次日志,并且保留最近 30 天的分割日志。
/opt/logtest/*.log{ daily#每天分割一次 rotate30#保留最近30個分割后的日志文件 copytruncate missingok dateext#切割后的文件添加日期作為后綴 dateyesterday#配合dateext使用,添加前一天的日期作為分割后日志的后綴 }
還是先刪除原來的所有文件,重新創建。
touchtest{1,2}.log
再手動執行分割,此時生成的分割后的文件將不再以序號作為文件名結尾,而是以昨天的日期作為結尾。
并且如果馬上再手動執行一次分割,由于日期相同,不會像原來一樣生成序號遞增的新日志文件,此時相當于沒有執行任何分割操作。即同一天只能分割一次,第二天再次執行才會分割出新的日期結尾的文件,所以此時設置 rotate 的值即為保留最近多少天日志的意思。
此外,默認添加的日期后綴格式為 yyyyMMdd,可以用 dateformat 自定義。
/opt/logtest/*.log{ daily#每天分割一次 rotate30#保留最近30個分割后的日志文件 copytruncate missingok dateext#切割后的文件添加日期作為后綴 dateyesterday#配合dateext使用,添加前一天的日期作為分割后日志的后綴 dateformat-%Y-%m-%d#格式為2022-02-08 }
2.4 按照文件大小分割
我們可以利用 size 配置指定當日志文件達到多大體積時才進行分割。以下配置指定了每天執行分割,但是只有當日志文件大于 5M 時才真正執行分割操作。
/opt/logtest/*.log{ daily#每天分割一次 size5M#源文件小于5M時不分割 rotate30#保留最近30個分割后的日志文件 create missingok dateext#切割后的文件添加日期作為后綴 dateyesterday#配合dateext使用,添加前一天的日期作為分割后日志的后綴 }
?
注意:這個配置并不是說日志文件達到指定大小就自動執行分割,它還是要遵循定時任務。比如配置了daily只有到每天指定時間執行分割任務時,才會檢查文件大小,對超過指定大小的文件進行分割。
?
2.5 自定義每小時分割
logrotate 實現每日定時執行日志分割的原理是通過 cron 定時任務,默認在 /etc/cron.daily 中包含 logrotate 可執行命令,所以系統每天會定時啟動 logrotate,然后它會根據配置中具體分割頻率(daily、weekly 等)以及其他條件(比如 size)決定是否要真正執行分割操作。
如果我們想要實現每小時進行一次分割,需要如下步驟:
logrotate 配置文件中指定分割頻率為 hourly;
配置完以后,還需要在 cron 的每小時定時任務中加入 logrotate,因為默認情況下只有 /etc/cron.daily 中包含 logrotate 可執行命令,我們要將它往 /etc/cron.hourly 中也拷貝一份,這樣系統才會每小時調用一次 logrotate 去執行分割。
cp/etc/cron.daily/logrotate/etc/cron.hourly/
2.6 自定義分割執行時間
logrotate 是基于 cron 運行的,所以這個時間是由 cron 控制的,具體可以查詢 cron 的配置文件 /etc/crontab 。舊版 CentOS 的 cron 的配置文件是 /etc/crontab ,新版CentOS 改為 /etc/anacrontab。
從上面的內容可以看出:
如果機器 沒有關機,默認 logrotate(配置文件里設置的是 cron.daily)一般會在每天的 3 點 05 分到 3 點 50 分之間執行, 真實的延遲時間是 RANDOM_DELAY + delay in minute;
如果在 3-22 這個時間段內服務器處于 關機狀態,則 logrotate 會在機器開機 5 分鐘后執行分割日志的操作。
如果我們覺得每天凌晨 3 點多執行日志分割不合適,那么可以自定義分割執行時間。實現方式可以是:
修改 /etc/anacrontab 中的定時執行時間,實際不推薦,可能會影響系統其他定時任務;
在 /etc/logrotate.d 以外的其他目錄創建 logrotate 配置文件,然后利用 crontab 自定義 cron 表達式來執行 logrotate 對該配置進行分割操作。
推薦采用 crontab 方式自定義執行時間,步驟如下:
在非 /etc/logrotate.d 目錄創建 logrotate 配置文件,這是為了避免被系統的定時任務掃描到該配置而導致重復執行分割。
添加 crontab 計劃任務,在 root 用戶下執行 crontab -e 進入 vim 模式,進行編輯。
crontab-e #每天23點59分進行日志切割 5923***/usr/sbin/logrotate-f/etc/logrotate_mytime/nginx
重啟 crontab。
#centos6: servicecrondrestart #centos7: systemctlrestartcrond
nginx 日志分割步驟
在 /etc/logrotate.d 中創建文件 nginx,作為 nginx 日志分割的配置文件。指定每天執行一次分割,并且當文件大于 5M 時才進行分割。同時指定 notifempty,當日志文件為空時不分割。
/opt/docker-ws/nginx/logs/*.log{ daily#每天分割一次 size5M#源文件小于5M時不分割 rotate30#保留最近30個分割后的日志文件 copytruncate notifempty#當日志文件為空時不分割 missingok dateext#切割后的文件添加日期作為后綴 }
查看結果發現提示權限不夠而分割失敗,這是因為開啟了 selinux 導致,解決方案有如下 2 種:
關閉 selinux
利用 semanage 修改待分割的日志文件所在目錄的權限
#開放/opt/logtest目錄的權限 semanagefcontext-a-tvar_log_t"/opt/logtest(/.*)?" restorecon-Rv/opt/logtest
審核編輯:湯梓紅
-
Linux
+關注
關注
87文章
11292瀏覽量
209333 -
Linux系統
+關注
關注
4文章
593瀏覽量
27392 -
文件
+關注
關注
1文章
565瀏覽量
24727 -
日志
+關注
關注
0文章
138瀏覽量
10639 -
nginx
+關注
關注
0文章
149瀏覽量
12170
原文標題:最全的 Nginx 日志分割教程
文章出處:【微信號:AndroidPush,微信公眾號:Android編程精選】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論