Replica Set功能
1, Replica Set是指一组服务器的集群,其中有一个主服务器,用于处理用户的请求;其余为备份服务器,用于保存主服务的数据副本。如果主服务器崩溃了,会自动将一个备份服务器升级为新的主服务器,从而保证服务器的进行。
2,MongoDB提供复制的功能,用来将数据保存到多台服务器上,在实际生产环境中,强烈建议集群并使用复制的功能,以实现故障转移和健壮服务器。
创建副本集
包含以下步骤:
1,在mongodb 文件夹下创建dbs文件夹,在dbs文件夹下面创建 db1 db2 db3 三个文件夹来存放数据。
在mongodb 文件夹下创建logs文件夹,在logs文件夹西面创建文件 log1 log2 log3 三个文件用来存放日志。2, 在启动MongoDB服务器的时候,使用 “--replSet 副本集名称” 选项 启动mongod
./mongod --dbpath ../dbs/db1 --logpath ../logs/log1 --port 20001 --fork --replSet myrep ./mongod --dbpath ../dbs/db2 --logpath ../logs/log2 --port 20002 --fork --replSet myrep ./mongod --dbpath ../dbs/db3 --logpath ../logs/log3 --port 20003 --fork --replSet myrep
3, 副本集进行初始化
./mongo 127.0.0.1:20001 rs.initiate({_id:"rep",members:[ {_id:0,host:'127.0.0.1:20001'}, {_id:1,host:'127.0.0.1:20002'}, {_id:2,host:'127.0.0.1:20003} ] })
以上就可以创建出副本集(Replica Set)
副本集(Replica Set)成员
1,Primary 主节点
接收所有的读写操作。2,Secondaries 副节点
主要从Primar(主节点) 复制数据,不接收写操作3,Arbiter 仲裁者
只负责选举不报错数据 ,不接收客户端的读写操作
示意图
1,在以下三个成员副本集中,Primary接受所有写入操作。 然后,Secondaries复制oplog以应用于其数据集。
2,以下三个成员副本集有两个副成员。 副节点复制主节点的oplog并将操作应用于其数据集。
3,以下三个成员副本集有一个副节点,一个主节点,一个仲裁者,仲裁者只是起到选择主节点的作用,不存储数据
这里写图片描述
4,当主节点挂掉后,副节点会有10秒的时间选举出副节点升级为主节点,有很强的容错能力。
这里写图片描述
查看副本集(Replica Set)状态
rs是辅助函数,其中包含了与复制相关的辅助函数,可以通过rs.help() 查看。
rs.help()
函数 | 描述 |
---|---|
rs.status() | 查看副本集状态 |
rs.initiate(cfg) | 副本集进行初始化 |
rs.conf() | local.system.replset 中获取配置信息 |
rs.reconfig(cfg) | 更新副本集配置 |
rs.add(hostportstr) | 添加一个成员 |
rs.addArb(hostportstr) | 添加一个选举者 arbiterOnly:true |
rs.stepDown([stepdownSecs, catchUpSecs]) | 主服务器变为备份服务器 |
rs.syncFrom(hostportstr) | 备份服务器指定hostportstr中同步数据 |
rs.freeze(secs) | 使不能成为主节点的节点可以成为主节点 |
rs.remove(hostportstr) | 从副本集删除一个节点 |
rs.slaveOk() | 允许副节点查询数据 |
rs.printReplicationInfo() | 查看oplog 的大小时间 |
rs.printSlaveReplicationInfo() | 查看副本集成员同步情况 |
db.isMaster() | 查看是否为主节点 |
rs.status()说明
rs.status() { "set" : "myrep", "date" : ISODate("2017-08-17T09:12:34.724Z"), "myState" : 1, "term" : NumberLong(181), "heartbeatIntervalMillis" : NumberLong(2000), "members" : [ { "_id" : 0, "name" : "127.0.0.1:20001", "health" : 1, "state" : 1, "stateStr" : "PRIMARY", "uptime" : 20690, "optime" : { "ts" : Timestamp(1502950202, 10), "t" : NumberLong(181) }, "optimeDate" : ISODate("2017-08-17T06:10:02Z"), "electionTime" : Timestamp(1502940488, 1), "electionDate" : ISODate("2017-08-17T03:28:08Z"), "configVersion" : 2, "self" : true }, { "_id" : 1, "name" : "127.0.0.1:20002", "health" : 1, "state" : 2, "stateStr" : "SECONDARY", "uptime" : 20671, "optime" : { "ts" : Timestamp(1502950202, 10), "t" : NumberLong(181) }, "optimeDate" : ISODate("2017-08-17T06:10:02Z"), "lastHeartbeat" : ISODate("2017-08-17T09:12:33.315Z"), "lastHeartbeatRecv" : ISODate("2017-08-17T09:12:33.315Z"), "pingMs" : NumberLong(37), "syncingTo" : "127.0.0.1:20001", "configVersion" : 2 }, { "_id" : 2, "name" : "127.0.0.1:20003", "health" : 1, "state" : 2, "stateStr" : "SECONDARY", "uptime" : 20651, "optime" : { "ts" : Timestamp(1502950202, 10), "t" : NumberLong(181) }, "optimeDate" : ISODate("2017-08-17T06:10:02Z"), "lastHeartbeat" : ISODate("2017-08-17T09:12:33.315Z"), "lastHeartbeatRecv" : ISODate("2017-08-17T09:12:33.314Z"), "pingMs" : NumberLong(37), "syncingTo" : "127.0.0.1:20001", "configVersion" : 2 } ], "ok" : 1 }
1, self:这个字段只会出现在运行rs.status函数的成员信息中。
2, stateStr: 服务器状态PRIMARY,SECONDARY,ARBITER。
3, uptime: 从成员可达一直到现在所经历的时间,单位是秒。
4,optimeDate: 每个成员的oplog中最后一个操作发生的时间。
注意:这里的状态是每个成员通过心跳报告上来的状态,所以optime跟实际时间可能会有 几秒钟的偏差。5,lastHeartbeat:当前服务器最后一次收到其他成员心跳的时间,如果网络故障,
或者是当前服务器比较繁忙,这个时间可能会是2秒钟之前。6,pingMs:心跳从当前服务器到达某个成员所花费的平均时间。
7,errmsg:成员在心跳请求中返回的状态信息,通常是一些状态信息,而不是错误信息。
8,state:也表示服务器的状态,state是内部表示,而stateStr是适合阅读的表示。
9,optime:和optimeDate也是一样的,只是optimeDate更适合阅读。
10,syncingTo:表示当前成员正在从哪个成员处进行复制。
修改副本集配置
1,从副本集中删除成员
rs.remove("ip:port")rs.remove("127.0.0.1:20003")
2,为副本集添加成员
rs.add(“ip:port”);rs.add("127.0.0.1:20003")
副本集中主节点的确认
是通过选举机制,要大多数节点同意的节点才能成为主节点。
成员配置选项——选举仲裁者
所谓仲裁者,就是不保存数据,专门用来投票选举主节点的副本,以解决副本个数为偶数的情况。
1,启动仲裁者和普通的副本方式一样。
2, 只是配置该节点的时候,设置:arbiterOnly:true ,如果用rs来加入的话应该是:rs.addArb("ip:port")
rs.initiate({_id:"rep",members:[ {_id:0,host:'127.0.0.1:20001'}, {_id:1,host:'127.0.0.1:20002'}, {_id:2,host:'127.0.0.1:20003,arbiterOnly:true } ] })
3,最多只能有一个仲裁者。
4,尽量使用奇数个成员,而不是采用仲裁者
成员配置选项priority——优先级
优先级用来表示一个成员渴望成为主节点的程度,可以在0-100之间,默认是1.
查看priority rs.config() { "_id" : "myrep", "version" : 4, "protocolVersion" : NumberLong(1), "members" : [ { "_id" : 0, "host" : "127.0.0.1:20001", "arbiterOnly" : false, "buildIndexes" : true, "hidden" : false, "priority" : 1, "tags" : { }, "slaveDelay" : NumberLong(0), "votes" : 1 }, { "_id" : 1, "host" : "127.0.0.1:20002", "arbiterOnly" : false, "buildIndexes" : true, "hidden" : true, "priority" : 0, "tags" : { }, "slaveDelay" : NumberLong(0), "votes" : 1 }, { "_id" : 2, "host" : "127.0.0.1:20003", "arbiterOnly" : true, "buildIndexes" : true, "hidden" : false, "priority" : 1, "tags" : { }, "slaveDelay" : NumberLong(0), "votes" : 1 } ], "settings" : { "chainingAllowed" : true, "heartbeatIntervalMillis" : 2000, "heartbeatTimeoutSecs" : 10, "electionTimeoutMillis" : 10000, "getLastErrorModes" : { }, "getLastErrorDefaults" : { "w" : 1, "wtimeout" : 0 } } }
这里写图片描述
1:如果优先级为0的话,表示这个成员永远不能够成为主节点。
2:拥有最高优先级的成员会优先选举为主节点,只要它能得到“大多数”的票,并且数据是
最新的,就可以了。3:如果一个高优先级的成员,数据又是最新的,通常会使得当前的主节点自动退位,让这个
优先级高的做主节点。
成员配置选项hidden——隐藏成员
对于设置为隐藏的成员,客户端不能发送请求,也不会作为复制源,通常用来做备份服务器,
这里写图片描述
1:在配置这个节点的时候,设置hidden:true
2: 只有优先级为0的成员才能被隐藏。
3:可以通过rs.config()或者rs.status()查看到
var config = rs.config(); config.members[1].hidden=true; config.members[1].priority=0; rs.reconfig(config); 查看配置 rs.config()
成员配置选项slaveDelay——延迟备份节点
可以通过slaveDelay设置一个延迟的备份节点,以在主节点的数据不小心被破坏后,能从备份中恢复回来。要求该备份节点的优先级为0.
这里写图片描述
var config = rs.config(); config.members[1].hidden=true; config.members[1].priority=0; config.members[1].slaveDelay=1000; 秒 rs.reconfig(config); 查看配置 rs.config()
成员配置选项buildIndexes——创建索引
如果不需要备份节点与主节点拥有一样的索引,可以设置:buildIndexes:false。
1:这是一个永久选项,一旦指定了,就无法恢复为创建索引的正常的节点了。
2:如果要恢复,只能删掉,重新再创建节点了。
3:同样要求该节点的优先级为0。
var config = rs.config(); config.members[1].priority=0; config.members[1].buildIndexes=false; rs.reconfig(config); 查看配置 rs.config()
操作日志oplog
Oplog 是主节点的local 数据库中的一个固定集合,按顺序记录了主节点的每一次写操作, MongoDB 的复制功能是使用oplog来实现的,备份节点通过查询这个集合就可以知道需要进行 哪些数据的复制了。 每个备份节点也都维护着自己的oplog,记录着每次从主节点复制数据的操作。这样 每个节点都可以作为数据的同步源提供给其他成员使用。
注意事项
1:由于是先复制数据,再写日志,因此可能会出现重复的复制操作,这个没有关系,MongoDB会处理这种情况,多次执行Oplog中同一个操作与执行一次是一样的。
2:oplog的大小是固定的,它只能保存特定数量的操作日志,如果多次大批量的执行操作,oplog很快就会被填满,oplog的大小,可以通过mongod的--plogSize来指定。
3:oplog的内容,在local数据库的oplog.rs集合里面
查看oplog.rs集合
use localdb.oplog.rs.find().limit(2) { "ts" : Timestamp(1502377323, 1), "h" : NumberLong("-5133493683417483983"), "v" : 2, "op" : "n", "ns" : "", "o" : { "msg" : "initiating set" } } { "ts" : Timestamp(1502377334, 1), "t" : NumberLong(1), "h" : NumberLong("-1049014418502032537"), "v" : 2, "op" : "n", "ns" : "", "o" : { "msg" : "new primary" } }
初始化同步
当副本集的一个成员启动的时候,他就会检查自身状态,然后到集群中检查是否需要同步, 以及从哪儿同步,并进行数据的复制,这个过程就称为初始化同步。
初始化要经历以下步骤:
1,记录前的准备工作:选择一个成员作为同步源,在local.me 中为自己创建一个标识符,删除所有已存在的数据库,以全新的状态开始同步。
2,从数据源把所有数据复制到本地 。
3,写oplog,把所有复制中的操作写入oplog。
4,把上一步oplog同步中的操作写入oplog
5,此时数据应该和数据源一致了,可以开始创建索引了。
6,如果当前节点的数据仍然远远落后于数据源,那么oplog会将创建索引间的所有操作同步过来。
7,完成初始化同步后,切换到普通同步状态,也就可以作为备份节点使用了。
处理陈旧数据
如果备份节点远远落后于同步源的数据,那么这个节点上的数据就是成旧数据。
通常的处理办法是:让主节点使用比较大的oplog,以保存足够多的操作日志,可以让备份节点慢慢来同步操作。
心跳
为了维护集合的最新状态,每个成员每个2秒会向其他成员发送一个心跳请求,用于检查每个成员的状态。
常见状态:
1:主节点、备份节点
2:STARTUP:成员刚启动时处于这个状态,加载完副本集配置后,进入STARTUP2
3:STARTUP2:整个初始化同步过程都处于这个状态
4:RECOVERING:表明成员运转正常,但暂时还不能处理读取请求
5:ARBITER:仲裁者始终处于这个状态
系统出现故障时的状态:
1:DOWN:成员不可到达,有可能成员还是在正常运行,也有可能挂了
2:UNKNOWN:标识一个成员无法到达其他所有的成员
3:REMOVED:成员被移出副本集
4:ROLLBACK:成员正在进行数据回滚
5:FATAL:成员出现了致命的错误,也不再尝试恢复正常
回滚
回滚的时候,会把受到影响的文档,保存到数据目录下的rollback目录中,文件名为 集合名称.bson。
<database>.<collection>.<timestamp>.bsonrecords.accounts.2011-05-09T18-10-04.0.bson
基本步骤:
1,判断是否需要回滚,典型就是副本记录和主记录不一致了。
2,在两个oplog 中寻找最后一个共同点
3,然后副本回滚到这个共同点
4,副本再从主节点同步数据回来
注意
如果要回滚的数据很多,比如大于300M,或者需要操作30分钟以上,回滚就会失败,如果回滚失败的话,就需要重新同步了。
以单机模式启动成员
由于很多维护的工作需要写入操作,所以不合适在副本集中操作,可以以单机模式
启动成员,也就是不要使用副本的选项,就跟以前启动单独的服务器一样。一般使用一个 跟副本集配置中不一样的端口号,这样其他成员会认为这个服务器挂了。
副本集的配置
副本集的配置以一个文档的形式保存在local库中system.replSet 集合中,副本集所有成员的这个文档都是相同的。绝对不要使用update来更新这个文档,应该使用rs或者replSetReconfig命令来修改副本集的配置。
先rs.config()得到当前配置,然后修改数据,再rs.reconfig 即可。但有如下限制:
1: 不能修改成员的"_id"字段。
2: 不能接收rs.reconfig命令的成员的优先级设置为0。
3: 不能将仲裁者变成正常成员,反之也不行。
4: 不能将buiildIndex为false的成员修改为true
创建比较多的副本集
副本集最多只能拥有12个成员,只有7个成员拥有投票权。因此要创建超过7个副本集的话,需要将其他成员的投票权设置为0:
rs.add({“_id”:8,”host”:”localhost:20008”,”votes”:0});
如果要配置超过12个成员的话,需要使用Master/Slave的方式,不过这个方式已经 不建议使用了,如果将来副本集能支持更多成员的话,这个方式可能会立即废除。
强制重新配置
如果副本集无法达到“大多数”要求的话,可能会无法选出主节点,这个时候,可以shell连接任意 一个成员,然后使用force 选项强制重新配置,如下
rs.reconfig(config,{“force”:true});
把主节点变为备份节点
可以使用stepDown函数,可以自己指定退化的持续时间,
rs.stepDown(); 或者 rs.stepDown(60); //秒为单位
阻止选举
如果对主节点进行维护,但不希望这段时间其他节点选举新的主节点,可以在每个备份节点上 执行freeze命令,强制他们始终处于备份状态。
rs.freeze(100) //秒为单位,表示冻结多长时间
如果在主节点上执行rs.freeze(0) 可以将退位的主节点重新变为主节点。
使用维护模式
当在副本集的某个成员上执行一个非常耗时的功能的话,可以设置该成员进入维护模式,方式如下:
db.adminCommand({“replSetMaintenanceMode”:true});
要从维护模式中恢复的话,设置为false就可以了。
不作为复制源
如果希望能从主节点复制数据,可以把所有的备份成员的alloChaining设置为false。
参看文章
https://docs.mongodb.com/v3.2/core/replica-set-primary/
作者:持续进步者
链接:https://www.jianshu.com/p/3abcdd3ec958