Mysql 中數(shù)據(jù)是要落盤的,這點大家都知道。讀寫磁盤速度是很慢的,尤其和內(nèi)存比起來更是沒的說。但是,我們平時在執(zhí)行 SQL 時,無論寫操作還是讀操作都能很快得到結果,并沒有預想中的那么慢。
可能你會說我有索引啊,有索引當然快了。但是鐵子,索引文件也是存儲在磁盤上的,查找過程會產(chǎn)生磁盤 I/O。如果同時對某行數(shù)據(jù)進行多次操作,那豈不是要重復產(chǎn)生很多次磁盤 IO 嗎?
可能你想到了,那我把數(shù)據(jù)存在內(nèi)存里不就可以了嗎?內(nèi)存速度比磁盤快,這準沒毛病。沒錯,那該怎么存呢? 這就是我們今天所要講的主題——緩沖池(buffer pool)。
各位看官,請跟我來~
圖注:思維導圖
初識緩沖池
上邊我們提到過了,執(zhí)行 SQL 對某一行進行操作時,總不能每次都直接進行磁盤操作吧。好歹有個緩沖地帶,不然每次都深入老巢這誰受得了。
這不緩沖池就應運而生了,簡單來說就是一塊內(nèi)存區(qū)域。它存在的原因之一是為了避免每次都去訪問磁盤,把最常訪問的數(shù)據(jù)放在緩存里,提高數(shù)據(jù)的訪問速度。
了解了它的作用,接下來讓我們先來看下緩沖池在整個 Mysql 架構里處于什么樣的地方,有一個宏觀的認識。
我們再來看看它的內(nèi)部組成部分。在緩沖池中,除數(shù)據(jù)頁和索引頁外還有多種類型:
緩沖池的應用
緩沖池你也了解了,可能此時你最關注的是它在 SQL 執(zhí)行時起了一個什么樣的作用。上篇文章中我們簡單的提到過一條 SQL 語句的執(zhí)行過程,但并未涉及到緩沖池相關的問題。這期我們?nèi)允且砸粭l SQL 來作為切入點。
當一條 SQL 執(zhí)行的時候,如果是讀操作,要查找的數(shù)據(jù)所在的數(shù)據(jù)頁在內(nèi)存中時,則將結果返回。否則會把對應的數(shù)據(jù)頁加載到內(nèi)存中,然后再返回結果。
同樣對于寫操作來說。如果要修改的行所在的數(shù)據(jù)頁在內(nèi)存中,則修改后返回對應的結果(當然還有后續(xù)操作)。如果不在的話,則會從磁盤里將該行所對應的數(shù)據(jù)頁讀到內(nèi)存中再進行修改。
好了,現(xiàn)在讓我們回到開始時候的問題。為什么操作磁盤慢,但是 SQL 執(zhí)行卻不慢呢。到這里相信你也差不多知道了吧。
緩沖池的存在,很大程度減少了磁盤 I/O 帶來的開銷。要操作的數(shù)據(jù)行所在的數(shù)據(jù)頁如果存在于緩存中的話,就不需要從磁盤中進行讀取。這樣在執(zhí)行后就可以很快拿到結果。
緩沖池的預讀機制
我們可以看出來,只要不存在或減少磁盤 I/O,執(zhí)行速度自然就會變快。那么對于加載數(shù)據(jù)頁這種無法避免的磁盤 I/O 來說是否有更好的方式呢?既然避免不了,那減少磁盤 I/O 的次數(shù)總可以吧?
這就是我們要講的 Mysql 中「預讀」的新特性,它是 Innodb 通過在緩沖池中提前讀取多個數(shù)據(jù)頁來優(yōu)化 I/O 的一種方式。因為磁盤讀寫的時候,是按照頁的方式來讀取的(你可以理解為固定大小的數(shù)據(jù),例如一頁數(shù)據(jù)為 16K),每次至少讀入一頁的數(shù)據(jù),如果下次讀取的數(shù)據(jù)就在頁中,就不用再去磁盤上讀取了,從而減少了磁盤 I/O。
可以在命令行通過如下命令查看對應的頁大?。?/p>
緩沖池的空間管理
你可能會有疑問,緩沖池這么洋氣的東西,為什么不把所有的數(shù)據(jù)都放到緩沖池里呢?這樣速度豈不是美滋滋,放到磁盤里慢的跟老牛拉車一樣。
哎,哥,醒醒,拋開內(nèi)存的易失性不談,緩沖池也是有大小限制的。那你可能又有疑惑了,既然緩沖池有大小限制,那我每次都讀入的數(shù)據(jù)頁怎么來管理呢。別的數(shù)據(jù)頁都占了地兒了,哪有我的位置?
這里我們來聊聊緩沖池的空間管理,其實對緩沖池進行管理的關鍵部分是如何安排進池的數(shù)據(jù)并且按照一定的策略淘汰池中的數(shù)據(jù),保證池中的數(shù)據(jù)不“溢出”,同時還能保證常用數(shù)據(jù)留在池子中。
傳統(tǒng) LRU 淘汰法
緩沖池是基于傳統(tǒng)的 LRU 方法來進行緩存頁管理的,我們先來看下如果使用 LRU 是如何管理的。
LRU,全稱是 Least Recently Used,中文名字叫作「最近最少使用」。從名字上就很容易理解了。
這里分兩種情況:
(1)緩存頁已在緩沖池中
這種情況下會將對應的緩存頁放到 LRU 鏈表的頭部,無需從磁盤再進行讀取,也無需淘汰其它緩存頁。
如下圖所示,如果要訪問的數(shù)據(jù)在 6 號頁中,則將 6 號頁放到鏈表頭部即可,這種情況下沒有緩存頁被淘汰。
(2)緩存頁不在緩沖池中
緩存頁不在緩沖中,這時候就需要從磁盤中讀入對應的數(shù)據(jù)頁,將其放置在鏈表頭部,同時淘汰掉末尾的緩存頁
如下圖所示,如果要訪問的數(shù)據(jù)在 60 號頁中,60 號頁不在緩沖池中,此時加載進來放到鏈表的頭部,同時淘汰掉末尾的 17 號緩存頁。
是不是看上去很簡單,同時也能滿足緩沖池淘汰緩存頁的方法?但是我們來思考幾個問題:
預讀失效
上面我們提到了緩沖池的預讀機制可能會預先加載相鄰的數(shù)據(jù)頁。假如加載了 20、21 相鄰的兩個數(shù)據(jù)頁,如果只有頁號為 20 的緩存頁被訪問了,而另一個緩存頁卻沒有被訪問。此時兩個緩存頁都在鏈表的頭部,但是為了加載這兩個緩存頁卻淘汰了末尾的緩存頁,而被淘汰的緩存頁卻是經(jīng)常被訪問的。這種情況就是預讀失效,被預先加載進緩沖池的頁,并沒有被訪問到,這種情況是不是很不合理。
緩沖池污染
還有一種情況是當執(zhí)行一條 SQL 語句時,如果掃描了大量數(shù)據(jù)或是進行了全表掃描,此時緩沖池中就會加載大量的數(shù)據(jù)頁,從而將緩沖池中已存在的所有頁替換出去,這種情況同樣是不合理的。這就是緩沖池污染,并且還會導致 MySQL 性能急劇下降。
冷熱數(shù)據(jù)分離
這樣看來,傳統(tǒng)的 LRU 方法并不能滿足緩沖池的空間管理。因此,Msyql 基于 LRU 設計了冷熱數(shù)據(jù)分離的處理方案。
也就是將 LRU 鏈表分為兩部分,一部分為熱數(shù)據(jù)區(qū)域,一部分為冷數(shù)據(jù)區(qū)域。
當數(shù)據(jù)頁第一次被加載到緩沖池中的時候,先將其放到冷數(shù)據(jù)區(qū)域的鏈表頭部,1s(由 innodb_old_blocks_time 參數(shù)控制) 后該緩存頁被訪問了再將其移至熱數(shù)據(jù)區(qū)域的鏈表頭部。
可能你會有疑惑了,為什么要等 1s 后才將其移至熱數(shù)據(jù)區(qū)域呢?你想想,如果數(shù)據(jù)頁剛被加載到冷數(shù)據(jù)區(qū)就被訪問了,之后再也不訪問它了呢?這不就造成熱數(shù)據(jù)區(qū)的浪費了嗎?要是 1s 后不訪問了,說明之后可能也不會去頻繁訪問它,也就沒有移至熱緩沖區(qū)的必要了。當緩存頁不夠的時候,從冷數(shù)據(jù)區(qū)淘汰它們就行了。
另一種情況,當我的數(shù)據(jù)頁已經(jīng)在熱緩沖區(qū)了,是不是緩存頁只要被訪問了就將其插到鏈表頭部呢?不用我說你肯定也覺得不合理。熱數(shù)據(jù)區(qū)域里的緩存頁是會被經(jīng)常訪問的,如果每訪問一個緩存頁就插入一次鏈表頭,那整個熱緩沖區(qū)里就異常騷動了,你想想那個畫面。
那咋整呢?Mysql 中優(yōu)化為熱數(shù)據(jù)區(qū)的后 3/4 部分被訪問后才將其移動到鏈表頭部去,對于前 1/4 部分的緩存頁被訪問了不會進行移動。
好了,到這里關于 buffer pool 的知識就講完了。這期里我們講了 buffer pool 能使 SQL 執(zhí)行變快的原因,同時還講了有關 buffer pool 空間的管理方式。歡迎在留言區(qū)里進行討論。
總結
緩沖池的應用
緩沖池很大程度減少了磁盤 I/O 帶來的開銷,通過將操作的數(shù)據(jù)行所在的數(shù)據(jù)頁加載到緩沖池可以提高 SQL 的執(zhí)行速度。
緩沖池的預讀機制
為了減少磁盤 I/O,Innodb 通過在緩沖池中提前讀取多個數(shù)據(jù)頁來進行優(yōu)化,這種方式叫作預讀。
緩沖池的空間管理
- 傳統(tǒng)的LRU方法對于緩沖池來說,會導致預讀失效和緩沖池污染兩種情況,因此這種傳統(tǒng)的方式并不適用緩沖池的空間管理。
- 基于對 LRU 方法的優(yōu)化,Msyql 設計了冷熱數(shù)據(jù)分離的處理方案,將LRU鏈表分為熱數(shù)據(jù)區(qū)和冷數(shù)據(jù)區(qū)兩部分,這樣就可以解決預讀失效和緩沖池污染的情況。
以上就是詳解MySQL中的緩沖池(buffer pool)的詳細內(nèi)容,更多關于MySQL 緩沖池(buffer pool)的資料請關注腳本之家其它相關文章!
您可能感興趣的文章:- MySQL Innodb關鍵特性之插入緩沖(insert buffer)
- MySQL的查詢緩存和Buffer Pool
- mysql優(yōu)化的重要參數(shù) key_buffer_size table_cache
- 優(yōu)化mysql之key_buffer_size設置
- mysql read_buffer_size 設置多少合適
- mysql Sort aborted: Out of sort memory, consider increasing server sort buffer size的解決方法
- 從MySQL的源碼剖析Innodb buffer的命中率計算
- php中mysql操作buffer用法詳解
- Mysql優(yōu)化調(diào)優(yōu)中兩個重要參數(shù)table_cache和key_buffer
- mysql Key_buffer_size參數(shù)的優(yōu)化設置
- mysqldump造成Buffer Pool污染的研究
- MySQL的join buffer原理