最近有粉絲面試互聯(lián)網(wǎng)公司被問到:你知道select語句和update語句分別是怎么執(zhí)行的嗎?,要我寫一篇這兩者執(zhí)行SQL語句的區(qū)別,這不就來了。
總的來說,select和update執(zhí)行的邏輯大體一樣,但是具體的實(shí)現(xiàn)還是有區(qū)別的。
當(dāng)然深入了解select和update的具體區(qū)別并不是只為了面試,當(dāng)希望Mysql能夠高效的執(zhí)行的時候,最好的辦法就是清楚的了解Mysql是如何執(zhí)行查詢的,只有更加全面的了解SQL執(zhí)行的每一個過程,才能更好的進(jìn)行SQl的優(yōu)化。
select語句
當(dāng)執(zhí)行一條查詢的SQl的時候大概發(fā)生了以下的步驟:
客戶端發(fā)送查詢語句給服務(wù)器。
服務(wù)器首先進(jìn)行用戶名和密碼的驗(yàn)證以及權(quán)限的校驗(yàn)。
然后會檢查緩存中是否存在該查詢,若存在,返回緩存中存在的結(jié)果。若是不存在就進(jìn)行下一步。
接著進(jìn)行語法和詞法的分析,對SQl的解析、語法檢測和預(yù)處理,再由優(yōu)化器生成對應(yīng)的執(zhí)行計劃。
Mysql的執(zhí)行器根據(jù)優(yōu)化器生成的執(zhí)行計劃執(zhí)行,調(diào)用存儲引擎的接口進(jìn)行查詢。
服務(wù)器將查詢的結(jié)果返回客戶端。
執(zhí)行的流程
Mysql中語句的執(zhí)行都是都是分層執(zhí)行,每一層執(zhí)行的任務(wù)都不同,直到最后拿到結(jié)果返回,主要分為Service層和引擎層,在Service層中包含:連接器、分析器、優(yōu)化器、執(zhí)行器。引擎層以插件的形式可以兼容各種不同的存儲引擎。
Mysql的執(zhí)行的流程圖如下圖所示:
這里以一個實(shí)例進(jìn)行說明Mysql的的執(zhí)行過程,新建一個User表,如下:
//新建一個表 DROPTABLEIFEXISTSUser; CREATETABLE`User`( `id`int(11)NOTNULLAUTO_INCREMENT, `name`varchar(10)DEFAULTNULL, `age`intDEFAULT0, `address`varchar(255)DEFAULTNULL, `phone`varchar(255)DEFAULTNULL, `dept`int, PRIMARYKEY(`id`) )ENGINE=InnoDBAUTO_INCREMENT=40DEFAULTCHARSET=utf8; //并初始化數(shù)據(jù),如下 INSERTINTOUser(name,age,address,phone,dept)VALUES('張三',24,'北京','13265543552',2); INSERTINTOUser(name,age,address,phone,dept)VALUES('張三三',20,'北京','13265543557',2); INSERTINTOUser(name,age,address,phone,dept)VALUES('李四',23,'上海','13265543553',2); INSERTINTOUser(name,age,address,phone,dept)VALUES('李四四',21,'上海','13265543556',2); INSERTINTOUser(name,age,address,phone,dept)VALUES('王五',27,'廣州','13265543558',3); INSERTINTOUser(name,age,address,phone,dept)VALUES('王五五',26,'廣州','13265543559',3); INSERTINTOUser(name,age,address,phone,dept)VALUES('趙六',25,'深圳','13265543550',3); INSERTINTOUser(name,age,address,phone,dept)VALUES('趙六六',28,'廣州','13265543561',3); INSERTINTOUser(name,age,address,phone,dept)VALUES('七七',29,'廣州','13265543562',4); INSERTINTOUser(name,age,address,phone,dept)VALUES('八八',23,'廣州','13265543563',4); INSERTINTOUser(name,age,address,phone,dept)VALUES('九九',24,'廣州','13265543564',4);
現(xiàn)在針對這個表發(fā)出一條SQl查詢:查詢每個部門中25歲以下的員工個數(shù)大于3的員工個數(shù)和部門編號,并按照人工個數(shù)降序排序和部門編號升序排序的前兩個部門。
SELECTdept,COUNT(phone)ASnumFROMUserWHEREage25?GROUP?BY?dept?HAVING?num?>=3ORDERBYnumDESC,deptASCLIMIT0,2;
連接器
開始執(zhí)行這條sql時,首先會校驗(yàn)?zāi)愕挠脩裘兔艽a是否正確,若是不正確會返回錯誤信息:"Access denied for user";
若是用戶名和密碼校驗(yàn)通過,然后就會到權(quán)限表獲取當(dāng)前用戶擁有的權(quán)限,會檢查該語句是否有權(quán)限,若是沒有權(quán)限就直接返回錯誤信息,有權(quán)限會進(jìn)行下一步,校驗(yàn)權(quán)限的這一步是在圖一的連接器進(jìn)行的,對連接用戶權(quán)限的校驗(yàn)。
注意:后續(xù)的一些列操作都是依賴于這個權(quán)限的范圍內(nèi)的。
檢索緩存
當(dāng)建立連接,履行查詢語句的時候,會先行檢查在緩存區(qū)域看看這個sql與否履行過,若是之前執(zhí)行過,它的執(zhí)行結(jié)果會以Key-Value的形式緩存于內(nèi)存中,Key是執(zhí)行的sql,Value是結(jié)果集。
假如,緩存中key遭擊中,便會直接將結(jié)果返回給客戶端,假如沒命中,便會履行后續(xù)的操作,完工之后亦會將結(jié)果緩存起來以便再次查詢獲取,當(dāng)下一次進(jìn)行查詢的時候也是如此的循環(huán)操作。
注意:Mysql中的緩存比較適合于那些靜態(tài)的表,更新不頻繁的表,因?yàn)橹灰?dāng)前表有數(shù)據(jù)更新,有關(guān)于該表的緩存就會失效,若是表更新頻繁緩存頻繁的失效,這樣維護(hù)緩存的消耗的性能遠(yuǎn)大于使用緩存帶來的性能優(yōu)化,這樣就會得不償失,嚴(yán)重影響Mysql的性能,所以在Mysql 8版本中的時候把緩存這一塊給砍掉了。
在個人的觀點(diǎn)中對于緩存這一塊的看法是,沒必要砍掉,可以設(shè)置成默認(rèn)關(guān)閉緩存,需要的時候再設(shè)置開啟,并且可以通過配置參數(shù)指定特定的表使用緩存,那些表不使用緩存,這樣或許使用緩存更有效。
分析器
分析器主要有兩步:(1)詞法分析(2)語法分析
詞法分析主要執(zhí)行提煉關(guān)鍵性字,比如select,提交檢索的表,提交字段名,提交檢索條件,確定該語句是select還是update或者是delete語句。
語法分析主要執(zhí)行辨別你輸出的sql與否準(zhǔn)確,是否合乎mysql的語法,若是不符合sql語法就會拋出:You have an error in your SQL syntax。
優(yōu)化器
查詢優(yōu)化器會將解析樹轉(zhuǎn)化成執(zhí)行計劃。一條查詢可以有多種執(zhí)行方法,最后都是返回相同結(jié)果。優(yōu)化器的作用就是找到這其中最好的執(zhí)行計劃。
例如:在查詢語句中有多個索引的時候,優(yōu)化器決定使用哪一個索引,或者有多表關(guān)聯(lián)的時候,決定表的連接順序等這些操作都是在優(yōu)化器決定的。
生成執(zhí)行計劃的過程會消耗較多的時間,特別是存在許多可選的執(zhí)行計劃時。如果在一條SQL語句執(zhí)行的過程中將該語句對應(yīng)的最終執(zhí)行計劃進(jìn)行緩存。
當(dāng)相似的語句再次被輸入服務(wù)器時,就可以直接使用已緩存的執(zhí)行計劃,從而跳過SQL語句生成執(zhí)行計劃的整個過程,進(jìn)而可以提高語句的執(zhí)行速度。
MySQL使用基于成本的查詢優(yōu)化器。它會嘗試預(yù)測一個查詢使用某種執(zhí)行計劃時的成本,并選擇其中成本最少的一個。
執(zhí)行器
優(yōu)化器生成得執(zhí)行計劃,交由執(zhí)行器進(jìn)行執(zhí)行,執(zhí)行器調(diào)用存儲引擎得讀接口,執(zhí)行器中循環(huán)的調(diào)用存儲引擎的讀接口,以此換取滿足條件的數(shù)據(jù)行,并把它放在一個結(jié)果集中,遍歷并獲取了所有滿足條件的數(shù)據(jù)行,最后將結(jié)果集返回,結(jié)束整個查詢得過程。
update語句
上面我們說完了select語句,select語句的執(zhí)行過程會經(jīng)過連接器、分析器、優(yōu)化器、執(zhí)行器、存儲引擎,同樣的update語句也會同樣走一遍select語句的執(zhí)行過程。
但是和select最大不同的是,update語句會涉及到兩個日志的操作redo log(重做日志)和binlog(歸檔日志)。對于這兩個日志的詳細(xì)介紹,我之前寫過一篇文章進(jìn)行介紹,有興趣的可以看一看[]:
那么Mysql中又是怎么使用redo log和binlog?為什么要使用redo log和binlog呢?直接執(zhí)行更新然后存庫不就行了嗎?還要放在redo log和binlog中,這不是多此一舉嗎?且聽我慢慢道來,這里面大有文章。
redo log
大家都是知道Mysql是關(guān)系型數(shù)據(jù)庫,用來存儲數(shù)據(jù)的,在訪問數(shù)據(jù)庫量大的時候,Mysql讀寫磁盤訪問的效率是非常低的,加上sql中的條件對數(shù)據(jù)的篩選過濾,那么效率就更低了。
這也是為什么引入非關(guān)系型數(shù)據(jù)庫作為作為數(shù)據(jù)緩存原因,例如:Redis、MongoDB等,就是為了減少sql執(zhí)行期間的數(shù)據(jù)庫io操作。
同樣的道理,若是每次執(zhí)行update語句都要進(jìn)行磁盤的io操作、以及數(shù)據(jù)的過濾篩選,小量的訪問和數(shù)據(jù)量數(shù)據(jù)庫還可以撐住,那么訪問量一大以及數(shù)據(jù)量一大,這樣數(shù)據(jù)庫肯定頂不住。
基于上面的問題于是出現(xiàn)了redo log日志,redo log日志也叫做WAL技術(shù)(Write- Ahead Logging),他是一種先寫日志,并更新內(nèi)存,最后再更新磁盤的技術(shù),并且更新磁盤往往是在Mysql比較閑的時候,這樣就大大減輕了Mysql的壓力。
redo log的特點(diǎn)就是:redo log是固定大小,是物理日志,屬于InnoDB引擎的,并且寫redo log是環(huán)狀寫日志的形式:
如上圖所示:若是四組的redo log文件,一組為1G的大小,那么四組就是4G的大小,其中write pos是記錄當(dāng)前的位置,有數(shù)據(jù)寫入當(dāng)前位置,那么write pos就會邊寫入邊往后移。
而check point是擦除的位置,因?yàn)閞edo log是固定大小,所以當(dāng)redo log滿的時候,也就是write pos追上check point的時候,需要清除redo log的部分?jǐn)?shù)據(jù),清除的數(shù)據(jù)會被持久化到磁盤中,然后將check point向前移動。
redo log日志實(shí)現(xiàn)了即使在數(shù)據(jù)庫出現(xiàn)異常宕機(jī)的時候,重啟后之前的記錄也不會丟失,這就是crash-safe能力。
binlog
binlog稱為歸檔日志,是邏輯上的日志,它屬于Mysql的Server層面的日志,記錄著sql的原始邏輯,主要有兩種模式,一個是statement格式記錄的是原始的sql,而row格式則是記錄行內(nèi)容。
那么這樣看來redo log和binlog雖然記錄的形式、內(nèi)容不同,但是這兩者日志都能通過自己記錄的內(nèi)容恢復(fù)數(shù)據(jù),那么為什么還要這兩個日志同時存在呢?只要其中一個不就行了嘛,兩個同時存在不就多此一舉了嘛。且聽我慢慢道來,這里面也大有文章。
因?yàn)閯傞_Mysql自帶的引擎MyISAM就沒有crash-safe功能的,并且在此之前Mysql還沒有InnoDB引擎,Mysql自帶的binlog日志只是用來歸檔日志的,所以InnoDB引擎也就通過自己redo log日志來實(shí)現(xiàn)crash-safe功能。
update執(zhí)行過程
上面說了那么久兩種日志的作用和特點(diǎn),那么這兩種日志究竟和update執(zhí)行語句有什么關(guān)系呢?
先來看圖:
前提:當(dāng)前的引擎是使用InnoDB,update語句與select語句區(qū)別主要是這兩日志的使用主要是在執(zhí)行器和引擎之間進(jìn)行交互時體現(xiàn)的區(qū)別。假如執(zhí)行如下一條簡單的更新語句是:
updateusersetage=age+1whereid =2;
上面說過select語句走過的流程update語句也會走一遍,當(dāng)來到執(zhí)行器的時候:
執(zhí)行器會調(diào)用引擎的讀接口,然后找到id=2的數(shù)據(jù)行,因?yàn)閕d是主鍵索引,索引按照樹的搜索找到這一行,若是數(shù)據(jù)行已經(jīng)存在于內(nèi)存的數(shù)據(jù)頁中就會立即將結(jié)果返回,若是不在內(nèi)存中,就會從磁盤中進(jìn)行加載到內(nèi)存中,然后將查詢的結(jié)果返回。
然后,執(zhí)行器將返回的結(jié)果的age字段+1,并調(diào)用引擎的寫接口寫入更新后的數(shù)據(jù)行。
引擎獲取到更新后的數(shù)據(jù)行更新到內(nèi)存和redo log中,并告訴執(zhí)行器可以隨時提交事務(wù),此時的redo log處于prepare階段。
執(zhí)行器收到引擎的告知后,生成binlog日志,并且調(diào)用引擎的接口提交事務(wù),引擎將redo log的狀態(tài)修改為commit狀態(tài),這樣這個更新操作算是完成。
與select語句相比,因?yàn)閟elect沒有更新數(shù)據(jù),只是將引擎查詢的數(shù)據(jù)返回給執(zhí)行器就算是完后,而update涉及數(shù)據(jù)的更新并且重新調(diào)用引擎接口寫會存儲引擎中的交互過程。
兩階段提交
上面詳細(xì)的說了update語句的執(zhí)行流程,提到了redo log的prepare和commit兩個階段,這就是兩階段提交,兩階段提交的目的是為了保證redo log日志與binlog日志保持?jǐn)?shù)據(jù)的一致性。
若是redo log寫成功binlog寫失敗,或者redo log寫失敗binlog寫成功,最后使用這兩者日志進(jìn)行數(shù)據(jù)恢復(fù)得到的結(jié)果數(shù)據(jù)都是不一致性的,所以為了保證兩個日志邏輯上的一致,使用兩階段進(jìn)行提交。
redo log與binlog的總結(jié)
最后來對比一下這兩種日志:redo是物理的,binlog是邏輯的,redo的大小固定,并且以環(huán)狀的形式寫入數(shù)據(jù),數(shù)據(jù)滿的時候需要將redo日志中擦除數(shù)據(jù),并且將擦除的數(shù)據(jù)持久化到磁盤中。
而binlog以追加日志的形式寫入,也就是當(dāng)日志寫到一定大小后,就會切換到下一個,并不會覆蓋以前寫的日志。
binlog是在Mysql的Server層中使用,因?yàn)閎inlog沒有crash-safe功能,所以InnoDB引擎自己實(shí)現(xiàn)了redo log日志的crash-safe的功能,為了保證這兩個日志邏輯上的一致使用兩階段提交。
在使用redo和binlog這兩種日志的時候,可以將參數(shù)innodb_flush_log_at_trx_commit和sync_binlog都設(shè)置為1,它表示每次事務(wù)提交的時候,都會將日志持久化到磁盤中。
責(zé)任編輯:xj
原文標(biāo)題:面試官:你知道 select 語句和 update 語句分別是怎么執(zhí)行的嗎?
文章出處:【微信公眾號:數(shù)據(jù)分析與開發(fā)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
-
MySQL
+關(guān)注
關(guān)注
1文章
804瀏覽量
26531 -
SQL語句
+關(guān)注
關(guān)注
0文章
19瀏覽量
7025 -
select
+關(guān)注
關(guān)注
0文章
28瀏覽量
3912
原文標(biāo)題:面試官:你知道 select 語句和 update 語句分別是怎么執(zhí)行的嗎?
文章出處:【微信號:DBDevs,微信公眾號:數(shù)據(jù)分析與開發(fā)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論