主頁(yè) > 知識(shí)庫(kù) > 詳解MongoDB中用sharding將副本集分配至服務(wù)器集群的方法

詳解MongoDB中用sharding將副本集分配至服務(wù)器集群的方法

熱門標(biāo)簽:網(wǎng)站排名優(yōu)化 百度競(jìng)價(jià)排名 服務(wù)外包 Linux服務(wù)器 鐵路電話系統(tǒng) 地方門戶網(wǎng)站 呼叫中心市場(chǎng)需求 AI電銷

關(guān)于副本集

副本集是一種在多臺(tái)機(jī)器同步數(shù)據(jù)的進(jìn)程。
副本集體提供了數(shù)據(jù)冗余,擴(kuò)展了數(shù)據(jù)可用性。在多臺(tái)服務(wù)器保存數(shù)據(jù)可以避免因?yàn)橐慌_(tái)服務(wù)器導(dǎo)致的數(shù)據(jù)丟失。
也可以從硬件故障或服務(wù)中斷解脫出來(lái),利用額外的數(shù)據(jù)副本,可以從一臺(tái)機(jī)器致力于災(zāi)難恢復(fù)或者備份。

在一些場(chǎng)景,可以使用副本集來(lái)擴(kuò)展讀性能??蛻舳擞心芰Πl(fā)送讀寫操作給不同的服務(wù)器。
也可以在不同的數(shù)據(jù)中心獲取不同的副本來(lái)擴(kuò)展分布式應(yīng)用的能力。

mongodb副本集是一組擁有相同數(shù)據(jù)的mongodb實(shí)例,主mongodb接受所有的寫操作,所有的其他實(shí)例可以接受主實(shí)例的操作以保持?jǐn)?shù)據(jù)同步。
主實(shí)例接受客戶可的寫操作,副本集只能有一個(gè)主實(shí)例,因?yàn)闉榱司S持?jǐn)?shù)據(jù)一致性,只有一個(gè)實(shí)例可寫,主實(shí)例的日志保存在oplog。

Client Application Driver
  Writes  Reads
    |   |
    Primary
  |Replication|Replication
Secondary    Secondary

二級(jí)節(jié)點(diǎn)復(fù)制主節(jié)點(diǎn)的oplog然后在自己的數(shù)據(jù)副本上執(zhí)行操作,二級(jí)節(jié)點(diǎn)是主節(jié)點(diǎn)數(shù)據(jù)的反射,如果主節(jié)點(diǎn)不可用,會(huì)選舉一個(gè)新的主節(jié)點(diǎn)。默認(rèn)讀操作是在主節(jié)點(diǎn)進(jìn)行的,但是可以指定讀取首選項(xiàng)參數(shù)來(lái)指定讀操作到副本節(jié)點(diǎn)。
可以添加一個(gè)額外的仲裁節(jié)點(diǎn)(不擁有被選舉權(quán)),使副本集節(jié)點(diǎn)保持奇數(shù),確??梢赃x舉出票數(shù)不同的直接點(diǎn)。仲裁者并不需要專用的硬件設(shè)備。
仲裁者節(jié)點(diǎn)一直會(huì)保存仲裁者身份。

1.異步復(fù)制
副本節(jié)點(diǎn)同步直接點(diǎn)操作是異步的,然而會(huì)導(dǎo)致副本集無(wú)法返回最新的數(shù)據(jù)給客戶端程序。

2.自動(dòng)故障轉(zhuǎn)移
如果主節(jié)點(diǎn)10s以上與其他節(jié)點(diǎn)失去通信,其他節(jié)點(diǎn)將會(huì)選舉新的節(jié)點(diǎn)作為主節(jié)點(diǎn)。
擁有大多數(shù)選票的副節(jié)點(diǎn)會(huì)被選舉為主節(jié)點(diǎn)。

副本集提供了一些選項(xiàng)給應(yīng)用程序,可以做一個(gè)成員位于不同數(shù)據(jù)中心的副本集。
也可以指定成員不同的優(yōu)先級(jí)來(lái)控制選舉。

sharding轉(zhuǎn)換一個(gè)副本集為分片集群
1. 部署一個(gè)測(cè)試副本集
創(chuàng)建第一個(gè)副本集實(shí)例,名稱為firstset:
1.1 創(chuàng)建副本集并且插入數(shù)據(jù)如下:

  /data/example/firstset1
  /data/example/firstset2
  /data/example/firstset3

創(chuàng)建目錄:

mkdir -p /data/example/firstset1 /data/example/firstset2 /data/example/firstset3

1.2 在其他終端啟動(dòng)三個(gè)mongodb實(shí)例,如下:

mongod --dbpath /data/example/firstset1 --port 10001 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset1/firstset1.log --logappend --nojournal --directoryperdb
mongod --dbpath /data/example/firstset2 --port 10002 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset2/firstset2.log --logappend --nojournal --directoryperdb
mongod --dbpath /data/example/firstset3 --port 10003 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset3/firstset3.log --logappend --nojournal --directoryperdb

--oplog選項(xiàng)強(qiáng)制每個(gè)mongodb實(shí)例操作日志為700M,不使用該參數(shù)則默認(rèn)為分區(qū)空間的5%,限制oplog的大小,可以使每個(gè)實(shí)例啟動(dòng)的快一點(diǎn)。
1.3 連接一個(gè)mongodb實(shí)例的shell

mongo mongo01:10001/admin

如果是運(yùn)行在生產(chǎn)環(huán)境下,或者不同主機(jī)名或IP的機(jī)器上,需要修改mongo01為指定名稱。
1.4 在mongo shell上初始化副本集

var config = {
  "_id" : "firstset",
  "members" : [
    {"_id" : 0, "host" : "mongo01:10001"},
    {"_id" : 1, "host" : "mongo01:10002"},
    {"_id" : 2, "host" : "mongo01:10003"},
  ]
}
rs.initiate(config);
{
    "info" : "Config now saved locally. Should come online in about a minute.",
    "ok" : 1
}


db.runCommand(
  {"replSetInitiate" :
    {"_id" : "firstset",
    "members" : [
      {"_id" : 0, "host" : "mongo01:10001"},
      {"_id" : 1, "host" : "mongo01:10002"},
      {"_id" : 2, "host" : "mongo01:10003"}
      ]
    }
  }
)

1.5 在mongo shell中創(chuàng)建并插入數(shù)據(jù):

use mydb
switched to db mydb
animal = ["dog", "tiger", "cat", "lion", "elephant", "bird", "horse", "pig", "rabbit", "cow", "dragon", "snake"];
for(var i=0; i100000; i++){
  name = animal[Math.floor(Math.random()*animal.length)];
  user_id = i;
  boolean = [true, false][Math.floor(Math.random()*2)];
  added_at = new Date();
  number = Math.floor(Math.random()*10001);
  db.test_collection.save({"name":name, "user_id":user_id, "boolean": boolean, "added_at":added_at, "number":number });
}

上面的操作會(huì)向集合test_collection插入100萬(wàn)條數(shù)據(jù),根據(jù)系統(tǒng)不同,可能會(huì)花費(fèi)幾分鐘的時(shí)間。
腳本會(huì)加入如下格式的文檔:

2. 部署一個(gè)分片設(shè)施
創(chuàng)建三個(gè)配置服務(wù)器來(lái)保存集群的元數(shù)據(jù)。
對(duì)于開發(fā)或者測(cè)試環(huán)境下,一個(gè)配置服務(wù)器足夠了,在生產(chǎn)環(huán)境下,需要三天配置服務(wù)器,因?yàn)樗鼈冎恍枰加煤苌俚馁Y源來(lái)保存元數(shù)據(jù)。
2.1 創(chuàng)建配置服務(wù)器的數(shù)據(jù)文件保存目錄:

  /data/example/config1
  /data/example/config2
  /data/example/config3

創(chuàng)建目錄:

mkdir -p /data/example/config1 /data/example/config2 /data/example/config3

2.2 在另外的終端下,啟動(dòng)配置服務(wù)器

mongod --configsvr --dbpath /data/example/config1 --port 20001 --fork --logpath /data/example/config1/config1.log --logappend
mongod --configsvr --dbpath /data/example/config2 --port 20002 --fork --logpath /data/example/config2/config2.log --logappend
mongod --configsvr --dbpath /data/example/config3 --port 20003 --fork --logpath /data/example/config3/config3.log --logappend

2.3 在另外的終端下,啟動(dòng)mongos實(shí)例:
mongos --configdb mongo01:20001,mongo01:20002,mongo01:20003 --port 27017 --chunkSize 1 --fork --logpath /data/example/mongos.log --logappend
如果使用的是以前創(chuàng)建的表或者測(cè)試環(huán)境下,可以使用最小的chunksize(1M),默認(rèn)chunksize為64M意味著在mongodb自動(dòng)分片啟動(dòng)前,集群必須擁有64MB的數(shù)據(jù)文件。
在生產(chǎn)環(huán)境下是不能使用很小的分片大小的。
configdb選項(xiàng)指定了配置服務(wù)器。mongos實(shí)例運(yùn)行在默認(rèn)的mongodb27017端口。
2.4 可以在mongos添加第一個(gè)分片,在新的終端執(zhí)行以下命令:
2.4.1 連接mongos實(shí)例

mongo mongo01:27017/admin

2.4.2 使用addShard命令添加第一個(gè)分片

db.runCommand( { addShard : "firstset/mongo01:10001,mongo01:10002,mongo01:10003" } )

2.4.3 出現(xiàn)以下信息,表示成功:

{ "shardAdded" : "firstset", "ok" : 1 }

3. 部署另一個(gè)測(cè)試副本集
創(chuàng)建另外一個(gè)副本集實(shí)例,名稱為secondset:
3.1 創(chuàng)建副本集并且插入數(shù)據(jù)如下:

  /data/example/secondset1
  /data/example/secondset2
  /data/example/secondset3

創(chuàng)建目錄:

mkdir -p /data/example/secondset1 /data/example/secondset2 /data/example/secondset3

3.2 在其他終端啟動(dòng)三個(gè)mongodb實(shí)例,如下:

mongod --dbpath /data/example/secondset1 --port 30001 --replSet secondset --oplogSize 700 --rest --fork --logpath /data/example/secondset1/secondset1.log --logappend --nojournal --directoryperdb
mongod --dbpath /data/example/secondset2 --port 30002 --replSet secondset --oplogSize 700 --rest --fork --logpath /data/example/secondset2/secondset2.log --logappend --nojournal --directoryperdb
mongod --dbpath /data/example/secondset3 --port 30003 --replSet secondset --oplogSize 700 --rest --fork --logpath /data/example/secondset3/secondset3.log --logappend --nojournal --directoryperdb

3.3 連接一個(gè)mongodb實(shí)例的shell

mongo mongo01:20001/admin

3.4 在mongo shell上初始化副本集

db.runCommand(
  {"replSetInitiate" :
    {"_id" : "secondset",
    "members" : [
      {"_id" : 0, "host" : "mongo01:30001"},
      {"_id" : 1, "host" : "mongo01:30002"},
      {"_id" : 2, "host" : "mongo01:30003"}
      ]
    }
  }
)

3.5 將該副本集加入分片集群

db.runCommand( { addShard : "secondset/mongo01:30001,mongo01:30002,mongo01:30003" } )

返回成功信息:

{ "shardAdded" : "firstset", "ok" : 1 }

3.6 通過(guò)運(yùn)行l(wèi)istShards命令證實(shí)分片都添加成功。如下:

db.runCommand({listShards:1})
{
  "shards" : [
    {
      "_id" : "firstset",
      "host" : "firstset/mongo01:10001,mongo01:10002,mongo01:10003"
    },
    {
      "_id" : "secondset",
      "host" : "secondset/mongo01:30001,mongo01:30002,mongo01:30003"
    }
  ],
  "ok" : 1
}

您可能感興趣的文章:
  • MongoDB的主從復(fù)制及副本集的replSet配置教程
  • Mongodb 副本集搭建問題總結(jié)及解決辦法
  • Mongodb3.0.5 副本集搭建及spring和java連接副本集配置詳細(xì)介紹
  • mongodb3.4集群搭建實(shí)戰(zhàn)之高可用的分片+副本集
  • Mongodb副本集和分片示例詳解
  • CentOS 6.4創(chuàng)建Mongodb副本集
  • MongoDB副本集丟失數(shù)據(jù)的測(cè)試實(shí)例教程
  • MongoDB 復(fù)制(副本集)學(xué)習(xí)筆記
  • mongodb 4.0副本集搭建的全過(guò)程

標(biāo)簽:衡水 湖南 仙桃 湘潭 黃山 崇左 銅川 蘭州

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《詳解MongoDB中用sharding將副本集分配至服務(wù)器集群的方法》,本文關(guān)鍵詞  ;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無(wú)關(guān)。
  • 相關(guān)文章
  • 收縮
    • 微信客服
    • 微信二維碼
    • 電話咨詢

    • 400-1100-266