Redis全量復(fù)制與部分復(fù)制示例詳解

• 啟動(dòng)6380、6381
• 6381 執(zhí)行命令

127.0.0.1:6381> slaveof 127.0.0.1 6380

Redis5.0.0 改為 ： replicaof masterip> masterport>

• 6380 啟動(dòng)

6381 啟動(dòng)

查看info replication

數(shù)據(jù)同步

復(fù)制偏移量

復(fù)制積壓緩沖區(qū)

• 復(fù)制積壓緩沖區(qū)是保存在主節(jié)點(diǎn)上的一個(gè)固定長度的隊(duì)列，默認(rèn)大小為1MB，當(dāng)主節(jié)點(diǎn)有連接的從節(jié)點(diǎn)(slave)時(shí)被創(chuàng)建，這是主節(jié)點(diǎn)(master)響應(yīng)寫命令時(shí)，不但會(huì)把命名發(fā)送給從節(jié)點(diǎn)，還會(huì)寫入復(fù)制積壓緩沖區(qū)
• 由于緩沖區(qū)本質(zhì)上是先進(jìn)先出的定長隊(duì)列，所以能實(shí)現(xiàn)保存最近已復(fù)制數(shù)據(jù)的功能，用于部分復(fù)制和復(fù)制命令丟失的數(shù)據(jù)補(bǔ)救

psync 命令

從節(jié)點(diǎn)使用psync命令完成部分復(fù)制和全量復(fù)制功能

30227:M 05 Aug 2019 18:52:44.698 * Replica 127.0.0.1:6381 asks for synchronization
30227:M 05 Aug 2019 18:52:44.698 * Partial resynchronization not accepted: Replication ID mismatch (Replica asked for 'e7d71fb600183a175afadbd1354e97edddb2541a', my replication IDs are 'e24f6e42917e7c162ec45a713b0ee3872005ee8b' and '0000000000000000000000000000000000000000')

6381 從節(jié)點(diǎn)打印分析

31771:S 06 Aug 2019 12:21:40.213 * DB loaded from disk: 0.000 seconds
31771:S 06 Aug 2019 12:21:40.213 * Before turning into a replica, using my master parameters to synthesize a cached master: I may be able to synchronize with the new master with just a partial transfer.
#啟動(dòng)成功
31771:S 06 Aug 2019 12:21:40.213 * Ready to accept connections
# 開始連接主節(jié)點(diǎn)
31771:S 06 Aug 2019 12:21:40.214 * Connecting to MASTER 127.0.0.1:6380
# 開始同步
31771:S 06 Aug 2019 12:21:40.214 * MASTER -> REPLICA sync started
31771:S 06 Aug 2019 12:21:40.214 * Non blocking connect for SYNC fired the event.
31771:S 06 Aug 2019 12:21:40.214 * Master replied to PING, replication can continue...
# 嘗試增量同步
31771:S 06 Aug 2019 12:21:40.214 * Trying a partial resynchronization (request 668b25f85e84c5900e1032e4b5e1f038f01cfa49:5895).
# 全量同步
31771:S 06 Aug 2019 12:21:40.215 * Full resync from master: c88cd043d66193e867929d9d5fadc952954371e5:0
31771:S 06 Aug 2019 12:21:40.215 * Discarding previously cached master state.
31771:S 06 Aug 2019 12:21:40.240 * MASTER -> REPLICA sync: receiving 224 bytes from master
31771:S 06 Aug 2019 12:21:40.241 * MASTER -> REPLICA sync: Flushing old data
31771:S 06 Aug 2019 12:21:40.241 * MASTER -> REPLICA sync: Loading DB in memory
31771:S 06 Aug 2019 12:21:40.241 * MASTER -> REPLICA sync: Finished with success

全量復(fù)制

• 全量復(fù)制是Redis最早支持的復(fù)制方式，也是主從第一次建立復(fù)制時(shí)必須經(jīng)歷的階段。觸發(fā)全量復(fù)制的命令是sync和psync
  • 發(fā)送psync命令進(jìn)行數(shù)據(jù)同步，由于是第一次進(jìn)行復(fù)制，從節(jié)點(diǎn)沒有復(fù)制偏移量和主節(jié)點(diǎn)的運(yùn)行ID，所以發(fā)送psync-1
  • 主節(jié)點(diǎn)根據(jù)psync-1解析出當(dāng)前為全量復(fù)制，回復(fù)+FULLRESYNC響應(yīng)
  • 從節(jié)點(diǎn)接收主節(jié)點(diǎn)的響應(yīng)數(shù)據(jù)保存運(yùn)行ID和偏移量offset
  • 主節(jié)點(diǎn)執(zhí)行bgsave保存RDB文件到本地

31651:M 06 Aug 2019 11:08:40.802 * Starting BGSAVE for SYNC with target: disk
31651:M 06 Aug 2019 11:08:40.802 * Background saving started by pid 31676
31676:C 06 Aug 2019 11:08:40.805 * DB saved on disk
31676:C 06 Aug 2019 11:08:40.806 * RDB: 0 MB of memory used by copy-on-write
31651:M 06 Aug 2019 11:08:40.886 * Background saving terminated with success
31651:M 06 Aug 2019 11:08:40.886 * Synchronization with replica 127.0.0.1:6381 succeeded

• 主節(jié)點(diǎn)發(fā)送RDB給從節(jié)點(diǎn)，從節(jié)點(diǎn)把接收的RDB文件保存在本地并直接作為從節(jié)點(diǎn)的數(shù)據(jù)文件,接收完RDB后從節(jié)點(diǎn)打印相關(guān)日志

31645:S 06 Aug 2019 11:08:40.886 * MASTER -> REPLICA sync: receiving 224 bytes from master

• 對(duì)于從節(jié)點(diǎn)開始接收RDB快照到接收完成期間，主節(jié)點(diǎn)仍然響應(yīng)讀寫命令，因此主節(jié)點(diǎn)會(huì)把這期間寫命令數(shù)據(jù)保存在復(fù)制客戶端緩沖區(qū)內(nèi)，當(dāng)從節(jié)點(diǎn)加載完RDB文件后，主節(jié)點(diǎn)再把緩沖區(qū)內(nèi)的數(shù)據(jù)發(fā)送個(gè)從節(jié)點(diǎn)，保證主從之間數(shù)據(jù)一致性。
• redis.conf 配置

client-output-buffer-limit replica 256mb 64mb 60

• 如果主節(jié)點(diǎn)創(chuàng)建和傳輸RDB的時(shí)間過長，對(duì)于高流量寫入場景非常容易造成主節(jié)點(diǎn)復(fù)制客戶端緩沖區(qū)溢出。默認(rèn)配置如上所示，如果60秒內(nèi)緩沖區(qū)消耗持續(xù)大于64MB或者直接超過256MB時(shí)，主節(jié)點(diǎn)將直接關(guān)閉復(fù)制客戶端連接，造成全量同步失敗
• 對(duì)于主節(jié)點(diǎn)，當(dāng)發(fā)送完所有的數(shù)據(jù)后就認(rèn)為全量復(fù)制完成.

31651:M 06 Aug 2019 11:08:40.886 * Synchronization with replica 127.0.0.1:6381 succeeded

• 從節(jié)點(diǎn)接收完主節(jié)點(diǎn)傳送來的全部數(shù)據(jù)后會(huì)清空自身舊數(shù)據(jù)

31645:S 06 Aug 2019 11:08:40.886 * MASTER -> REPLICA sync: Flushing old data

• 從節(jié)點(diǎn)清空數(shù)據(jù)后開始加載RDB文件，對(duì)于較大的RDB文件，這一步操作依然比較耗時(shí)，可以通過計(jì)算日志之間的時(shí)間差來判斷加載RDB的總耗時(shí)

31645:S 06 Aug 2019 11:08:40.886 * MASTER -> REPLICA sync: Loading DB in memory
31645:S 06 Aug 2019 11:08:40.886 * MASTER -> REPLICA sync: Finished with success

• 從節(jié)點(diǎn)成功加載完RDB后，如果當(dāng)前節(jié)點(diǎn)開啟了AOF持久化功能，它會(huì)立刻做bgrewriteaof操作，為了保證全量復(fù)制后AOF持久化文件立刻可用。
• 全量復(fù)制耗時(shí)的原因：
  • 主節(jié)點(diǎn)bgsave時(shí)間
  • RDB文件網(wǎng)絡(luò)傳輸時(shí)間
  • 從節(jié)點(diǎn)清空數(shù)據(jù)時(shí)間
  • 可能的AOF重寫時(shí)間
• 以下為Redis 3.0才會(huì)有

部分復(fù)制

• 部分復(fù)制主要是Redis針對(duì)全量復(fù)制的過高開銷做出的一種優(yōu)化措施，使用psync {runId}{offset}命令實(shí)現(xiàn)。當(dāng)從節(jié)點(diǎn)(slave)正在復(fù)制主節(jié)點(diǎn)(master)時(shí)，如果出現(xiàn)網(wǎng)絡(luò)閃斷或者命令丟失等異常情況時(shí)，從節(jié)點(diǎn)會(huì)向主節(jié)點(diǎn)要求補(bǔ)發(fā)丟失的命令數(shù)據(jù)，如果主節(jié)點(diǎn)的復(fù)制積壓緩沖區(qū)內(nèi)存咋這部分?jǐn)?shù)據(jù)則直接發(fā)送給從節(jié)點(diǎn)，這樣就可以保持主從節(jié)點(diǎn)復(fù)制的一致性。補(bǔ)發(fā)的這部分?jǐn)?shù)據(jù)一般遠(yuǎn)遠(yuǎn)小于全量數(shù)據(jù).
  • 當(dāng)主節(jié)點(diǎn)直接網(wǎng)絡(luò)出現(xiàn)中斷是，如果超過repl-timeout時(shí)間，主節(jié)點(diǎn)會(huì)認(rèn)為從節(jié)點(diǎn)故障并中斷復(fù)制連接

31767:M 06 Aug 2019 14:13:26.096 # Connection with replica 127.0.0.1:6381 lost.

• 主從連接中斷期間主節(jié)點(diǎn)依然響應(yīng)命令，但因復(fù)制連接中斷命令無法發(fā)送給從節(jié)點(diǎn)，不過主節(jié)點(diǎn)內(nèi)部存在的復(fù)制積壓緩沖區(qū)，依然可以保存最近一段時(shí)間的寫命令數(shù)據(jù)，默認(rèn)最大緩存1MB，可以通過into replication 查看
• 當(dāng)從節(jié)點(diǎn)網(wǎng)絡(luò)恢復(fù)后，從節(jié)點(diǎn)會(huì)再次連上主節(jié)點(diǎn)

從節(jié)點(diǎn)打?。?
31934:S 06 Aug 2019 14:20:54.745 * MASTER -> REPLICA sync started
31934:S 06 Aug 2019 14:20:54.745 * Non blocking connect for SYNC fired the event.
31934:S 06 Aug 2019 14:20:54.745 * Master replied to PING, replication can continue...
31934:S 06 Aug 2019 14:20:54.745 * Trying a partial resynchronization (request c88cd043d66193e867929d9d5fadc952954371e5:9996).
31934:S 06 Aug 2019 14:20:54.746 * Successful partial resynchronization with master.
31934:S 06 Aug 2019 14:20:54.746 * MASTER -> REPLICA sync: Master accepted a Partial Resynchronization.

主節(jié)點(diǎn)打?。?
31767:M 06 Aug 2019 14:21:49.065 * Replica 127.0.0.1:6381 asks for synchronization
31767:M 06 Aug 2019 14:21:49.066 * Partial resynchronization request from 127.0.0.1:6381 accepted. Sending 0 bytes of backlog starting from offset 10066.

• 當(dāng)主從連接恢復(fù)后，由于從節(jié)點(diǎn)之前保存了自身已復(fù)制的偏移量和主節(jié)點(diǎn)的運(yùn)行ID。因此會(huì)把它們當(dāng)做psync參數(shù)發(fā)送個(gè)主節(jié)點(diǎn)，要求進(jìn)行部分復(fù)制操作.從節(jié)點(diǎn)對(duì)應(yīng)日志：

31938:S 06 Aug 2019 14:21:49.065 * Trying a partial resynchronization (request c88cd043d66193e867929d9d5fadc952954371e5:10066).

• 主節(jié)點(diǎn)接到psync命令后首先核對(duì)參數(shù)runId是否與自身一致，如果一致，說明之前復(fù)制的是當(dāng)前主節(jié)點(diǎn)；之后根據(jù)參數(shù)offset在自身復(fù)制積壓緩沖區(qū)查找，如果偏移量之后的數(shù)據(jù)存在緩沖區(qū)中，則對(duì)從節(jié)點(diǎn)發(fā)送+COUTINUE響應(yīng)，表示可以進(jìn)行部分復(fù)制。從節(jié)點(diǎn)接到回復(fù)打印如下：

31938:S 06 Aug 2019 14:21:49.066 * Successful partial resynchronization with master.
31938:S 06 Aug 2019 14:21:49.066 * MASTER -> REPLICA sync: Master accepted a Partial Resynchronization.

• 主節(jié)點(diǎn)根據(jù)偏移量把復(fù)制積壓緩沖區(qū)里的數(shù)據(jù)發(fā)送給從節(jié)點(diǎn)，保證主從復(fù)制進(jìn)入正常狀態(tài)。發(fā)送的數(shù)據(jù)量可以在主節(jié)點(diǎn)的日志獲取

31767:M 06 Aug 2019 14:21:49.065 * Replica 127.0.0.1:6381 asks for synchronization
31767:M 06 Aug 2019 14:21:49.066 * Partial resynchronization request from 127.0.0.1:6381 accepted. Sending 0 bytes of backlog starting from offset 10066.

心跳

• 主從節(jié)點(diǎn)在建立復(fù)制后,它們之間維護(hù)著長連接并彼此發(fā)送心跳命令
• 主從心跳判斷機(jī)制：
  • 主從節(jié)點(diǎn)彼此都有心跳檢測機(jī)制，各自模擬對(duì)方的客戶端進(jìn)行通信，主節(jié)點(diǎn)的連接狀態(tài)為flags=M,從節(jié)點(diǎn)連接狀態(tài)為flags=S
  • 主節(jié)點(diǎn)默認(rèn)每隔10秒對(duì)從節(jié)點(diǎn)發(fā)送ping命令，判斷從節(jié)點(diǎn)的存活性和連接狀態(tài)?？梢酝ㄟ^repl-ping-replica-period 10 控制發(fā)送頻率
  • 從節(jié)點(diǎn)在主線程中每隔一秒發(fā)送replconf ack{offset} 命令，給主節(jié)點(diǎn)上報(bào)自身當(dāng)前的復(fù)制偏移量。主節(jié)點(diǎn)根據(jù)replconf命令判斷從節(jié)點(diǎn)超時(shí)時(shí)間，體現(xiàn)在info replication 統(tǒng)計(jì)中的lag信息中，lag表示從節(jié)點(diǎn)最后一次通信延遲的秒數(shù)，正常延遲應(yīng)該在0到1之間。如果超過repl-timeout配置的值(默認(rèn)60秒),則判定從節(jié)點(diǎn)下線并斷開復(fù)制客戶端連接。即使主節(jié)點(diǎn)判定從節(jié)點(diǎn)下線后，如果從節(jié)點(diǎn)重新恢復(fù)，心跳檢測和繼續(xù)執(zhí)行.

異步復(fù)制

• 主節(jié)點(diǎn)不但負(fù)責(zé)數(shù)據(jù)讀寫，還負(fù)責(zé)把寫命令同步給從節(jié)點(diǎn)。寫命令的發(fā)送過程是異步完成，也就是說主節(jié)點(diǎn)自身處理完寫命令后直接返回給客戶端，并不等待從節(jié)點(diǎn)復(fù)制完成。

讀寫分離

• 對(duì)于讀占比較高的場景，可以通過把一部分讀流量分?jǐn)偟綇墓?jié)點(diǎn)(slave)來減輕主節(jié)點(diǎn)(master)壓力，同時(shí)需要注意永遠(yuǎn)只對(duì)主節(jié)點(diǎn)執(zhí)行寫操作
• 建議大家在做讀寫分離之前，可以考慮使用Redis Cluster 等分布式解決方案

總結(jié)

以上就是這篇文章的全部內(nèi)容了，希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，謝謝大家對(duì)腳本之家的支持。