歡迎光臨
每天分享高質量文章

當我們輸入一條SQL查詢陳述句時,發生了什麼?

 

來自:丁奇         鏈接:

https://www.infoq.cn/article/PKzT75BPcryCYJ_VuWrR

極客時間《MySQL 實戰 45 講》專欄

我們經常說,看一個事兒千萬不要直接陷入細節里,你應該先鳥瞰其全貌,這樣能夠幫助你從高維度理解問題。同樣,對於 MySQL 的學習也是這樣。平時我們使用資料庫,看到的通常都是一個整體。比如,你有個最簡單的表,表裡只有一個 ID 欄位,在執行下麵這個查詢陳述句時:

mysql> select * from T where ID=10;

我們看到的只是輸入一條陳述句,傳回一個結果,卻不知道這條陳述句在 MySQL 內部的執行過程。

所以今天我想和你一起把 MySQL 拆解一下,看看裡面都有哪些“零件”,希望藉由這個拆解過程,讓你對 MySQL 有更深入的理解。這樣當我們碰到 MySQL 的一些異常或者問題時,就能夠直戳本質,更為快速地定位並解決問題。

下麵我給出的是 MySQL 的基本架構示意圖,從中你可以清楚地看到 SQL 陳述句在 MySQL 的各個功能模塊中的執行過程。

MySQL 的邏輯架構圖

大體來說,MySQL 可以分為 Server 層和儲存引擎層兩部分。

Server 層包括連接器、查詢快取、分析器、優化器、執行器等,涵蓋 MySQL 的大多數核心服務功能,以及所有的內置函式(如日期、時間、數學和加密函式等),所有跨儲存引擎的功能都在這一層實現,比如儲存過程、觸發器、視圖等。

而儲存引擎層負責資料的儲存和提取。其架構樣式是插件式的,支持 InnoDB、MyISAM、Memory 等多個儲存引擎。現在最常用的儲存引擎是 InnoDB,它從 MySQL 5.5.5 版本開始成為了預設儲存引擎。

也就是說,你執行 create table 建表的時候,如果不指定引擎型別,預設使用的就是 InnoDB。不過,你也可以通過指定儲存引擎的型別來選擇別的引擎,比如在 create table 陳述句中使用 engine=memory, 來指定使用記憶體引擎創建表。不同儲存引擎的表資料存取方式不同,支持的功能也不同,在後面的文章中,我們會討論到引擎的選擇。

從圖中不難看出,不同的儲存引擎共用一個 Server 層,也就是從連接器到執行器的部分。你可以先對每個組件的名字有個印象,接下來我會結合開頭提到的那條 SQL 陳述句,帶你走一遍整個執行流程,依次看下每個組件的作用。

01 連接器

第一步,你會先連接到這個資料庫上,這時候接待你的就是連接器。連接器負責跟客戶端建立連接、獲取權限、維持和管理連接。連接命令一般是這麼寫的:

mysql -h$ip -P$port -u$user -p

輸完命令之後,你就需要在交互對話裡面輸入密碼。雖然密碼也可以直接跟在 -p 後面寫在命令列中,但這樣可能會導致你的密碼泄露。如果你連的是生產服務器,強烈建議你不要這麼做。

連接命令中的 mysql 是客戶端工具,用來跟服務端建立連接。在完成經典的 TCP 握手後,連接器就要開始認證你的身份,這個時候用的就是你輸入的用戶名和密碼。

  • 如果用戶名或密碼不對,你就會收到一個”Access denied for user”的錯誤,然後客戶端程式結束執行。

  • 如果用戶名密碼認證通過,連接器會到權限表裡面查出你擁有的權限。之後,這個連接裡面的權限判斷邏輯,都將依賴於此時讀到的權限。

這就意味著,一個用戶成功建立連接後,即使你用管理員賬號對這個用戶的權限做了修改,也不會影響已經存在連接的權限。修改完成後,只有再新建的連接才會使用新的權限設置。

連接完成後,如果你沒有後續的動作,這個連接就處於空閑狀態,你可以在 show processlist 命令中看到它。文本中這個圖是 show processlist 的結果,其中的 Command 列顯示為“Sleep”的這一行,就表示現在系統裡面有一個空閑連接。

客戶端如果太長時間沒動靜,連接器就會自動將它斷開。這個時間是由引數 wait_timeout 控制的,預設值是 8 小時。

如果在連接被斷開之後,客戶端再次發送請求的話,就會收到一個錯誤提醒: Lost connection to MySQL server during query。這時候如果你要繼續,就需要重連,然後再執行請求了。

資料庫裡面,長連接是指連接成功後,如果客戶端持續有請求,則一直使用同一個連接。短連接則是指每次執行完很少的幾次查詢就斷開連接,下次查詢再重新建立一個。

建立連接的過程通常是比較複雜的,所以我建議你在使用中要儘量減少建立連接的動作,也就是儘量使用長連接。

但是全部使用長連接後,你可能會發現,有些時候 MySQL 占用記憶體漲得特別快,這是因為 MySQL 在執行過程中臨時使用的記憶體是管理在連接物件裡面的。這些資源會在連接斷開的時候才釋放。所以如果長連接累積下來,可能導致記憶體占用太大,被系統強行殺掉(OOM),從現象看就是 MySQL 異常重啟了。

怎麼解決這個問題呢?你可以考慮以下兩種方案。

  1. 定期斷開長連接。使用一段時間,或者程式裡面判斷執行過一個占用記憶體的大查詢後,斷開連接,之後要查詢再重連。

  2. 如果你用的是 MySQL 5.7 或更新版本,可以在每次執行一個比較大的操作後,通過執行 mysql_reset_connection 來重新初始化連接資源。這個過程不需要重連和重新做權限驗證,但是會將連接恢復到剛剛創建完時的狀態。

02 查詢快取

連接建立完成後,你就可以執行 select 陳述句了。執行邏輯就會來到第二步:查詢快取。

MySQL 拿到一個查詢請求後,會先到查詢快取看看,之前是不是執行過這條陳述句。之前執行過的陳述句及其結果可能會以 key-value 對的形式,被直接快取在記憶體中。key 是查詢的陳述句,value 是查詢的結果。如果你的查詢能夠直接在這個快取中找到 key,那麼這個 value 就會被直接傳回給客戶端。

如果陳述句不在查詢快取中,就會繼續後面的執行階段。執行完成後,執行結果會被存入查詢快取中。你可以看到,如果查詢命中快取,MySQL 不需要執行後面的複雜操作,就可以直接傳回結果,這個效率會很高。

但是大多數情況下我會建議你不要使用查詢快取,為什麼呢?因為查詢快取往往弊大於利。

查詢快取的失效非常頻繁,只要有對一個表的更新,這個表上所有的查詢快取都會被清空。因此很可能你費勁地把結果存起來,還沒使用呢,就被一個更新全清空了。對於更新壓力大的資料庫來說,查詢快取的命中率會非常低。除非你的業務就是有一張靜態表,很長時間才會更新一次。比如,一個系統配置表,那這張表上的查詢才適合使用查詢快取。

好在 MySQL 也提供了這種“按需使用”的方式。你可以將引數 query_cache_type 設置成 DEMAND,這樣對於預設的 SQL 陳述句都不使用查詢快取。而對於你確定要使用查詢快取的陳述句,可以用 SQL_CACHE 顯式指定,像下麵這個陳述句一樣:

mysql> select SQL_CACHE * from T where ID=10;

需要註意的是,MySQL 8.0 版本直接將查詢快取的整塊功能刪掉了,也就是說 8.0 開始徹底沒有這個功能了。

03 分析器

如果沒有命中查詢快取,就要開始真正執行陳述句了。首先,MySQL 需要知道你要做什麼,因此需要對 SQL 陳述句做解析。

分析器先會做“詞法分析”。你輸入的是由多個字串和空格組成的一條 SQL 陳述句,MySQL 需要識別出裡面的字串分別是什麼,代表什麼。

MySQL 從你輸入的”select”這個關鍵字識別出來,這是一個查詢陳述句。它也要把字串“T”識別成“表名 T”,把字串“ID”識別成“列 ID”。

做完了這些識別以後,就要做“語法分析”。根據詞法分析的結果,語法分析器會根據語法規則,判斷你輸入的這個 SQL 陳述句是否滿足 MySQL 語法。

如果你的陳述句不對,就會收到“You have an error in your SQL syntax”的錯誤提醒,比如下麵這個陳述句 select 少打了開頭的字母“s”。

mysql> elect * from t where ID=1;

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'elect * from t where ID=1' at line 1

一般語法錯誤會提示第一個出現錯誤的位置,所以你要關註的是緊接“use near”的內容。

04 優化器

經過了分析器,MySQL 就知道你要做什麼了。在開始執行之前,還要先經過優化器的處理。

優化器是在表裡面有多個索引的時候,決定使用哪個索引;或者在一個陳述句有多表關聯(join)的時候,決定各個表的連接順序。比如你執行下麵這樣的陳述句,這個陳述句是執行兩個表的 join:

mysql> select * from t1 join t2 using(ID)  where t1.c=10 and t2.d=20;
  • 既可以先從表 t1 裡面取出 c=10 的記錄的 ID 值,再根據 ID 值關聯到表 t2,再判斷 t2 裡面 d 的值是否等於 20。

  • 也可以先從表 t2 裡面取出 d=20 的記錄的 ID 值,再根據 ID 值關聯到 t1,再判斷 t1 裡面 c 的值是否等於 10。

這兩種執行方法的邏輯結果是一樣的,但是執行的效率會有不同,而優化器的作用就是決定選擇使用哪一個方案。

優化器階段完成後,這個陳述句的執行方案就確定下來了,然後進入執行器階段。如果你還有一些疑問,比如優化器是怎麼選擇索引的,有沒有可能選擇錯等等,沒關係,我會在後面的文章中單獨展開說明優化器的內容。

05 執行器

MySQL 通過分析器知道了你要做什麼,通過優化器知道了該怎麼做,於是就進入了執行器階段,開始執行陳述句。

開始執行的時候,要先判斷一下你對這個表 T 有沒有執行查詢的權限,如果沒有,就會傳回沒有權限的錯誤,如下所示。

mysql> select * from T where ID=10;

ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'

如果有權限,就打開表繼續執行。打開表的時候,執行器就會根據表的引擎定義,去使用這個引擎提供的接口。

比如我們這個例子中的表 T 中,ID 欄位沒有索引,那麼執行器的執行流程是這樣的:

  1. 呼叫 InnoDB 引擎接口取這個表的第一行,判斷 ID 值是不是 10,如果不是則跳過,如果是則將這行存在結果集中;

  2. 呼叫引擎接口取“下一行”,重覆相同的判斷邏輯,直到取到這個表的最後一行。

  3. 執行器將上述遍歷過程中所有滿足條件的行組成的記錄集作為結果集傳回給客戶端。

至此,這個陳述句就執行完成了。

對於有索引的表,執行的邏輯也差不多。第一次呼叫的是“取滿足條件的第一行”這個接口,之後迴圈取“滿足條件的下一行”這個接口,這些接口都是引擎中已經定義好的。

你會在資料庫的慢查詢日誌中看到一個 rows_examined 的欄位,表示這個陳述句執行過程中掃描了多少行。這個值就是在執行器每次呼叫引擎獲取資料行的時候累加的。

在有些場景下,執行器呼叫一次,在引擎內部則掃描了多行,因此 引擎掃描行數跟 rows_examined 並不是完全相同的

    赞(0)

    分享創造快樂