昨天線上容器突然cpu飆升，也是第一次排查這種問題所以記錄一下~

前言

首先問題是這樣的，周五正在寫文檔，突然收到了線上報警，發(fā)現(xiàn)cpu占用達(dá)到了90多，上平臺監(jiān)控系統(tǒng)查看容器，在jvm監(jiān)控中發(fā)現(xiàn)有一個pod在兩個小時內(nèi)產(chǎn)生了61次youngGc一次fullGc，這個問題特別嚴(yán)重且少見，由于我之前也沒有排查過此類問題，所以也是百度，但整個過程也有一些自己的思考，所以跟大家分享一下~

基于 Spring Boot + MyBatis Plus + Vue & Element 實現(xiàn)的后臺管理系統(tǒng) + 用戶小程序，支持 RBAC 動態(tài)權(quán)限、多租戶、數(shù)據(jù)權(quán)限、工作流、三方登錄、支付、短信、商城等功能

• 項目地址：https://github.com/YunaiV/ruoyi-vue-pro
• 視頻教程：https://doc.iocoder.cn/video/

當(dāng)時場景

我先給大家看一下一副正常的gc曲線監(jiān)控（為保密性，我自己按照平臺監(jiān)控畫了出來）：

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實現(xiàn)的后臺管理系統(tǒng) + 用戶小程序，支持 RBAC 動態(tài)權(quán)限、多租戶、數(shù)據(jù)權(quán)限、工作流、三方登錄、支付、短信、商城等功能

• 項目地址：https://github.com/YunaiV/yudao-cloud
• 視頻教程：https://doc.iocoder.cn/video/

正常的jvm監(jiān)控曲線圖

產(chǎn)生問題的jvm監(jiān)控曲線圖

可以看的出來，正常情況下該系統(tǒng)很少gc(具體看業(yè)務(wù)系統(tǒng)使用情況、jvm內(nèi)存分配)，但是在圖二中出現(xiàn)了大量異常的gc情況甚至觸發(fā)了fullGc，所以我當(dāng)時立馬進(jìn)行了分析。

具體分析

首先異常gc的情況只出現(xiàn)在一個pod上（系統(tǒng)有多個pod）,在監(jiān)控系統(tǒng)找到對應(yīng)的pod，進(jìn)入pod內(nèi)部查看問題原因，排查問題一定要冷靜

1. 進(jìn)入pod之后，輸入top查看各linux進(jìn)程對系統(tǒng)資源的使用情況(因我這是事后補(bǔ)稿，資源使用不高，大家看步驟即可)

1. 分析資源使用情況在當(dāng)時的情況下

當(dāng)時我的pid為1的進(jìn)程cpu上到了130（多核）那我認(rèn)定就是java應(yīng)用出問題了，control+c退出繼續(xù)往下走

1. 輸入top -H -p pid 通過此命令可以查看實際占用CPU最高的的線程的id，pid為剛才資源使用高的pid號

1. 出現(xiàn)具體線程的資源使用情況，表格里的pid代表線程的id，我們稱他為tid

1. 我記得當(dāng)時的tip為746（上述圖片只是我給大家重復(fù)步驟），使用命令printf "%x " 746，將線程tid轉(zhuǎn)換為16進(jìn)制

因為我們線程id號在堆棧里是16進(jìn)制的所以需要做一個進(jìn)制轉(zhuǎn)換

1. 輸入jstack pid | grep 2ea >gc.stack

jstackpid|grep2ea>gc.stack

解釋一下，jstack是jdk給提供的監(jiān)控調(diào)優(yōu)小工具之一，jstack會生成JVM當(dāng)前時刻的線程快照，然后我們可以通過它查看某個Java進(jìn)程內(nèi)的線程堆棧信息，之后我們把堆棧信息通過管道收集2ea線程的信息，然后將信息生成為gc.stack文件，我隨便起的，隨意

1. 當(dāng)時我先cat gc.stack 發(fā)現(xiàn)數(shù)據(jù)有點多在容器里看不方便，于是我下載到本地瀏覽，因為公司對各個機(jī)器的訪問做了限制，我只能用跳板機(jī)先找到一臺沒用的機(jī)器a，把文件下載到a然后我再把a(bǔ)里的文件下載到本地（本地訪問跳板機(jī)OK），先輸入python -m SimpleHTTPServer 8080，linux自帶python，這個是開啟一個簡單http服務(wù)供外界訪問

然后登錄跳板機(jī)，使用curl下載curl -o http://ip地址/gcInfo.stack

為方便演示，我在圖中把ip換了一個假的

之后用同樣的方法從本地下載跳板機(jī)就可以了，記得關(guān)閉python開啟的建議服務(wù)嗷

1. 把文件下載到了本地，打開查看編輯器搜索2ea，找到nid為2ea的堆棧信息

之后找到對應(yīng)的impl根據(jù)行數(shù)分析程序

1. 發(fā)現(xiàn)是在文件異步導(dǎo)出excel的時候，導(dǎo)出接口使用了公共列表查詢接口，列表接口查詢數(shù)據(jù)最多為分頁200一批，而導(dǎo)出數(shù)據(jù)量每個人的權(quán)限幾萬到十幾萬不等

并且該判斷方法使用了嵌套循環(huán)里判斷，且結(jié)合業(yè)務(wù)很容易 get 不到 value，Java 下的new ArrayList 就是返回一個 List 集合（好像不用說這么細(xì) (；一_一 ），在整個方法結(jié)束之前，產(chǎn)生的 lists生命周期還在所以發(fā)生多次gc觸發(fā)重啟之后還影響到了別的pod。然后對代碼進(jìn)行了fix，緊急上線，問題解決~

結(jié)束語

遇到生產(chǎn)問題，大家不要害怕，遇到問題先保證服務(wù)是否可用，然后通過有限的信息層層解析，找出最終的問題。如果你會 arthas，排查起來會更輕松！