主頁(yè) > 知識(shí)庫(kù) > Redis優(yōu)化經(jīng)驗(yàn)總結(jié)(必看篇)

Redis優(yōu)化經(jīng)驗(yàn)總結(jié)(必看篇)

熱門標(biāo)簽:Linux服務(wù)器 地方門戶網(wǎng)站 百度競(jìng)價(jià)排名 網(wǎng)站排名優(yōu)化 服務(wù)外包 AI電銷 呼叫中心市場(chǎng)需求 鐵路電話系統(tǒng)

內(nèi)存管理優(yōu)化

Redis Hash是value內(nèi)部為一個(gè)HashMap,如果該Map的成員數(shù)比較少,則會(huì)采用類似一維線性的緊湊格式來(lái)存儲(chǔ)該Map, 即省去了大量指針的內(nèi)存開銷,這個(gè)參數(shù)控制對(duì)應(yīng)在redis.conf配置文件中下面2項(xiàng):

hash-max-zipmap-entries 64 hash-max-zipmap-value 512       

當(dāng)value這個(gè)Map內(nèi)部不超過(guò)多少個(gè)成員時(shí)會(huì)采用線性緊湊格式存儲(chǔ),默認(rèn)是64,即value內(nèi)部有64個(gè)以下的成員就是使用線性緊湊存儲(chǔ),超過(guò)該值自動(dòng)轉(zhuǎn)成真正的HashMap。

hash-max-zipmap-value 含義是當(dāng) value這個(gè)Map內(nèi)部的每個(gè)成員值長(zhǎng)度不超過(guò)多少字節(jié)就會(huì)采用線性緊湊存儲(chǔ)來(lái)節(jié)省空間。

以上2個(gè)條件任意一個(gè)條件超過(guò)設(shè)置值都會(huì)轉(zhuǎn)換成真正的HashMap,也就不會(huì)再節(jié)省內(nèi)存了,那么這個(gè)值是不是設(shè)置的越大越好呢,答案當(dāng)然是否定的,HashMap的優(yōu)勢(shì)就是查找和操作的時(shí)間復(fù)雜度都是O(1)的,而放棄Hash采用一維存儲(chǔ)則是O(n)的時(shí)間復(fù)雜度,如果

成員數(shù)量很少,則影響不大,否則會(huì)嚴(yán)重影響性能,所以要權(quán)衡好這個(gè)值的設(shè)置,總體上還是最根本的時(shí)間成本和空間成本上的權(quán)衡。

list-max-ziplist-value 64 list-max-ziplist-entries 512       

list數(shù)據(jù)類型節(jié)點(diǎn)值大小小于多少字節(jié)會(huì)采用緊湊存儲(chǔ)格式、list數(shù)據(jù)類型多少節(jié)點(diǎn)以下會(huì)采用去指針的緊湊存儲(chǔ)格式。

內(nèi)存預(yù)分配:

Redis內(nèi)部實(shí)現(xiàn)沒有對(duì)內(nèi)存分配方面做過(guò)多的優(yōu)化(對(duì)比Memcache),在一定程度上會(huì)存在內(nèi)存碎片,不過(guò)大多數(shù)情況下這個(gè)不會(huì)成為Redis的性能瓶頸,不過(guò)如果在Redis內(nèi)部存儲(chǔ)的大部分?jǐn)?shù)據(jù)是數(shù)值型的話,Redis內(nèi)部采用了一個(gè)shared integer的 方式來(lái)省去分配內(nèi)存的開銷,即在系統(tǒng)啟動(dòng)時(shí)先分配一個(gè)從1~n 那么多個(gè)數(shù)值對(duì)象放在一個(gè)池子中,如果存儲(chǔ)的數(shù)據(jù)恰好是這個(gè)數(shù)值范圍內(nèi)的數(shù)據(jù),則直接從池子里取出該對(duì)象,并且通過(guò)引用計(jì)數(shù)的方式來(lái)共享,這樣在系統(tǒng)存儲(chǔ) 了大量數(shù)值下,也能一定程度上節(jié)省內(nèi)存并且提高性能,這個(gè)參數(shù)值n的設(shè)置需要修改源代碼中的一行宏定義REDIS_SHARED_INTEGERS,該值 默認(rèn)是10000,可以根據(jù)自己的需要進(jìn)行修改,修改后重新編譯就可以了。

持久化機(jī)制:

定時(shí)快照方式(snapshot):

該持久化方式實(shí)際是在Redis內(nèi)部一個(gè)定時(shí)器事件,每隔固定時(shí)間去檢查當(dāng)前數(shù)據(jù)發(fā)生的改變次數(shù)與時(shí)間是否滿足配置的持久化觸發(fā)的條件,如果滿足則通 過(guò)操作系統(tǒng)fork調(diào)用來(lái)創(chuàng)建出一個(gè)子進(jìn)程,這個(gè)子進(jìn)程默認(rèn)會(huì)與父進(jìn)程共享相同的地址空間,這時(shí)就可以通過(guò)子進(jìn)程來(lái)遍歷整個(gè)內(nèi)存來(lái)進(jìn)行存儲(chǔ)操作,而主進(jìn)程 則仍然可以提供服務(wù),當(dāng)有寫入時(shí)由操作系統(tǒng)按照內(nèi)存頁(yè)(page)為單位來(lái)進(jìn)行copy-on-write保證父子進(jìn)程之間不會(huì)互相影響。

該持久化的主要缺點(diǎn)是定時(shí)快照只是代表一段時(shí)間內(nèi)的內(nèi)存映像,所以系統(tǒng)重啟會(huì)丟失上次快照與重啟之間所有的數(shù)據(jù)。

基于語(yǔ)句追加方式(aof):

aof方式實(shí)際類似mysql的基于語(yǔ)句的binlog方式,即每條會(huì)使Redis內(nèi)存數(shù)據(jù)發(fā)生改變的命令都會(huì)追加到一個(gè)log文件中,也就是說(shuō)這個(gè)log文件就是Redis的持久化數(shù)據(jù)。

aof的方式的主要缺點(diǎn)是追加log文件可能導(dǎo)致體積過(guò)大,當(dāng)系統(tǒng)重啟恢復(fù)數(shù)據(jù)時(shí)如果是aof的方式則加載數(shù)據(jù)會(huì)非常慢,幾十G的數(shù)據(jù)可能需要幾小時(shí)才能加載完,當(dāng)然這個(gè)耗時(shí)并不是因?yàn)榇疟P文件讀取速度慢,而是由于讀取的所有命令都要在內(nèi)存中執(zhí)行一遍。另外由于每條命令都要寫log,所以使用aof的方式,Redis的讀寫性能也會(huì)有所下降。

可以考慮將數(shù)據(jù)保存到不同的Redis實(shí)例中,每個(gè)實(shí)例的內(nèi)存大小在2G左右,避免將雞蛋放到一個(gè)籃子里,既可以減少緩存失效給系統(tǒng)帶來(lái)的影響,又可以加快數(shù)據(jù)恢復(fù)的速度,不過(guò)同時(shí)也給系統(tǒng)設(shè)計(jì)帶來(lái)了一定的復(fù)雜性。

Redis持久化崩潰問(wèn)題:

有Redis線上運(yùn)維經(jīng)驗(yàn)的人會(huì)發(fā)現(xiàn)Redis在物理內(nèi)存使用比較多,但還沒有超過(guò)實(shí)際物理內(nèi)存總?cè)萘繒r(shí)就會(huì)發(fā)生不穩(wěn)定甚至崩潰的 問(wèn)題,有人認(rèn)為是基于快照方式持久化的fork系統(tǒng)調(diào)用造成內(nèi)存占用加倍而導(dǎo)致的,這種觀點(diǎn)是不準(zhǔn)確的,因?yàn)閒ork 調(diào)用的copy-on-write機(jī)制是基于操作系統(tǒng)頁(yè)這個(gè)單位的,也就是只有有寫入的臟頁(yè)會(huì)被復(fù)制,但是一般你的系統(tǒng)不會(huì)在短時(shí)間內(nèi)所有的頁(yè)都發(fā)生了寫 入而導(dǎo)致復(fù)制,那么是什么原因?qū)е翿edis崩潰的呢?

答案是Redis的持久化使用了Buffer IO造 成的,所謂Buffer IO是指Redis對(duì)持久化文件的寫入和讀取操作都會(huì)使用物理內(nèi)存的Page Cache,而大多數(shù)數(shù)據(jù)庫(kù)系統(tǒng)會(huì)使用Direct IO來(lái)繞過(guò)這層Page Cache并自行維護(hù)一個(gè)數(shù)據(jù)的Cache,而當(dāng)Redis的持久化文件過(guò)大(尤其是快照文件),并對(duì)其進(jìn)行讀寫時(shí),磁盤文件中的數(shù)據(jù)都會(huì)被加載到物理內(nèi) 存中作為操作系統(tǒng)對(duì)該文件的一層Cache,而這層Cache的數(shù)據(jù)與Redis內(nèi)存中管理的數(shù)據(jù)實(shí)際是重復(fù)存儲(chǔ)的,雖然內(nèi)核在物理內(nèi)存緊張時(shí)會(huì)做 Page Cache的剔除工作,但內(nèi)核很可能認(rèn)為某塊Page Cache更重要,而讓你的進(jìn)程開始Swap ,這時(shí)你的系統(tǒng)就會(huì)開始出現(xiàn)不穩(wěn)定或者崩潰了。我們的經(jīng)驗(yàn)是當(dāng)你的Redis物理內(nèi)存使用超過(guò)內(nèi)存總?cè)萘康?/5時(shí)就會(huì)開始比較危險(xiǎn)了。

總結(jié):

1、根據(jù)業(yè)務(wù)需要選擇合適的數(shù)據(jù)類型,并為不同的應(yīng)用場(chǎng)景設(shè)置相應(yīng)的緊湊存儲(chǔ)參數(shù)。

2、當(dāng)業(yè)務(wù)場(chǎng)景不需要數(shù)據(jù)持久化時(shí),關(guān)閉所有的持久化方式可以獲得最佳的性能以及最大的內(nèi)存使用量。

3、如果需要使用持久化,根據(jù)是否可以容忍重啟丟失部分?jǐn)?shù)據(jù)在快照方式與語(yǔ)句追加方式之間選擇其一,不要使用虛擬內(nèi)存以及diskstore方式。

4、不要讓你的Redis所在機(jī)器物理內(nèi)存使用超過(guò)實(shí)際內(nèi)存總量的3/5。

redis.conf中的maxmemory選項(xiàng),該選項(xiàng)是告訴Redis當(dāng)使用了多少物理內(nèi)存后就開始拒絕后續(xù)的寫入請(qǐng)求,該參數(shù)能很好的保護(hù)好你的Redis不會(huì)因?yàn)槭褂昧诉^(guò)多的物理內(nèi)存而導(dǎo)致swap,最終嚴(yán)重影響性能甚至崩潰。

redis.conf文件中 vm-enabled 為 no

以上這篇Redis優(yōu)化經(jīng)驗(yàn)總結(jié)(必看篇)就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。

標(biāo)簽:銅川 仙桃 黃山 衡水 湖南 湘潭 崇左 蘭州

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《Redis優(yōu)化經(jīng)驗(yàn)總結(jié)(必看篇)》,本文關(guān)鍵詞  ;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問(wèn)題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無(wú)關(guān)。
  • 相關(guān)文章
  • 收縮
    • 微信客服
    • 微信二維碼
    • 電話咨詢

    • 400-1100-266