1. Johngo学长首页
  2. 技术点详细复盘专题
  3. 其他编程语言
  4. Java

MongoDB高级应用之高可用方案实战（4）

• Java • 阅读 84

1、MongDB启动与关闭

1.1、命令行启动


./mongod --fork --dbpath=/opt/mongodb/data ----logpath=/opt/mongodb/log/mongodb.log

1.2、配置文件启动


./mongod -f mongodb.cfg
mongoDB基本配置/opt/mongodb/mongodb.cfg
dbpath=/opt/mongodb/data
logpath=/opt/mongodb/logs/mongodb.log
logappend=true
fork=true
bind_ip=192.168.209.128
port=27017

环境变量配置


export PATH=/opt/mongodb/bin:$PATH

2、MongoDB主从搭建

Mongodb有三种集群方式的搭建：Master-Slaver/Replica Set / Sharding。下面是最简答的集群搭建，不过准确说也不能算是集群，只能说是主备。并且官方已经不推荐这种方式，所以在这里只是简单的介绍下吧，搭建方式也相对简单。主机配置 /opt/mongodb/master-slave/master/mongodb.cfg


dbpath=/opt/mongodb/master-slave/master/data
logpath=/opt/mongodb/master-slave/master/logs/mongodb.log
logappend=true
fork=true
bind_ip=192.168.209.128
port=27001
master=true
source=192.168.209.128:27002

从机配置 /opt/mongodb/master-slave/slave/mongodb.cfg


dbpath=/opt/mongodb/master-slave/slave/data
logpath=/opt/mongodb/master-slave/slave/logs/mongodb.log
logappend=true
fork=true
bind_ip=192.168.209.128
port=27002
slave=true
source=192.168.209.128:27001

启动服务


cd /opt/mongodb/master-slave/master/
mongod --config mongodb.cfg #主节点
cd /opt/mongodb/master-slave/slave/
mongod --config mongodb.cfg #从节点

连接测试


#客户端连接主节点
mongo  --host 192.168.209.128 --port 27001
#客户端从节点
mongo  --host 192.168.209.128 --port 27002

基本上只要在主节点和备节点上分别执行这两条命令，Master-Slaver就算搭建完成了。我没有试过主节点挂掉后备节点是否能变成主节点，不过既然已经不推荐了，大家就没必要去使用了。

3、MongoDB副本集

中文翻译叫做副本集，不过我并不喜欢把英文翻译成中文，总是感觉怪怪的。其实简单来说就是集群当中包含了多份数据，保证主节点挂掉了，备节点能继续提供数据服务，提供的前提就是数据需要和主节点一致。如下图：

MongoDB高级应用之高可用方案实战（4）

Mongodb(M)表示主节点，Mongodb(S)表示备节点，Mongodb(A)表示仲裁节点。主备节点存储数据，仲裁节点不存储数据。客户端同时连接主节点与备节点，不连接仲裁节点。

默认设置下，主节点提供所有增删查改服务，备节点不提供任何服务。但是可以通过设置使备节点提供查询服务，这样就可以减少主节点的压力，当客户端进行数据查询时，请求自动转到备节点上。这个设置叫做Read Preference Modes，同时Java客户端提供了简单的配置方式，可以不必直接对数据库进行操作。
仲裁节点是一种特殊的节点，它本身并不存储数据，主要的作用是决定哪一个备节点在主节点挂掉之后提升为主节点，所以客户端不需要连接此节点。这里虽然只有一个备节点，但是仍然需要一个仲裁节点来提升备节点级别。我开始也不相信必须要有仲裁节点，但是自己也试过没仲裁节点的话，主节点挂了备节点还是备节点，所以咱们还是需要它的。
介绍完了集群方案，那么现在就开始搭建了。

3.1.建立数据文件夹

一般情况下不会把数据目录建立在mongodb的解压目录下，不过这里方便起见，就建在mongodb解压目录下吧。


#三个目录分别对应主，备，仲裁节点
mkdir -p /opt/mongodb/replset/master
mkdir -p /opt/mongodb/replset/slaver
mkdir -p /opt/mongodb/replset/arbiter

3.2.建立配置文件

由于配置比较多，所以我们将配置写到文件里。


vi /opt/mongodb/replset/master/mongodb.cfg
dbpath=/opt/mongodb/replset/master/data
logpath=/opt/mongodb/replset/master/logs/mongodb.log
logappend=true
replSet=shard002
bind_ip=192.168.209.128
port=27017
fork=true
vi /opt/mongodb/replset/slave/mongodb.cfg
dbpath=/opt/mongodb/replset/slave/data
logpath=/opt/mongodb/replset/slave/logs/mongodb.log
logappend=true
replSet=shard002
bind_ip=192.168.209.129
port=27017
fork=true
vi /opt/mongodb/replset/arbiter/mongodb.cfg
dbpath=/opt/mongodb/replset/arbiter/data
logpath=/opt/mongodb/replset/arbiter/logs/mongodb.log
logappend=true
replSet=shard002
bind_ip=192.168.209.130
port=27017
fork=true

参数解释：

dbpath：数据存放目录

logpath：日志存放路径

logappend：以追加的方式记录日志

replSet：replica set的名字

bind_ip：mongodb所绑定的ip地址

port：mongodb进程所使用的端口号，默认为27017

fork：以后台方式运行进程

3.3、分发到集群下的其他机器


#将从节点配置发送到192.168.209.129
scp -r /opt/mongodb/replset/slave root@192.168.209.129:/opt/mongodb/replset
#将仲裁节点配置发送到192.168.209.130
scp -r /opt/mongodb/replset/arbiter root@192.168.209.130:/opt/mongodb/replset

3.4.启动mongodb

进入每个mongodb节点的bin目录下


#登录192.168.209.128 启动主节点
monood -f /opt/mongodb/replset/master/mongodb.cfg
#登录192.168.209.129 启动从节点
mongod -f /opt/mongodb/replset/slave/mongodb.cfg
#登录192.168.209.130 启动仲裁节点
mongod -f /opt/mongodb/replset/arbiter/mongodb.cfg

注意配置文件的路径一定要保证正确，可以是相对路径也可以是绝对路径。

3.5.配置主，备，仲裁节点

可以通过客户端连接mongodb，也可以直接在三个节点中选择一个连接mongodb。


#ip和port是某个节点的地址
mongo 192.168.209.128:27017
use admin
cfg={_id:"shard002",members:[{_id:0,host:'192.168.209.128:27017',priority:9},{_id:1,host:'192.168.209.129:27017',priority:1},{_id:2,host:'192.168.209.130:27017',arbiterOnly:true}]};
#使配置生效
rs.initiate(cfg)

注意：cfg是相当于设置一个变量，可以是任意的名字，当然最好不要是mongodb的关键字，conf，config都可以。最外层的_id表示replica set的名字，members里包含的是所有节点的地址以及优先级。优先级最高的即成为主节点，即这里的192.168.209.128:27017。特别注意的是，对于仲裁节点，需要有个特别的配置——arbiterOnly:true。这个千万不能少了，不然主备模式就不能生效。

配置的生效时间根据不同的机器配置会有长有短，配置不错的话基本上十几秒内就能生效，有的配置需要一两分钟。如果生效了，执行rs.status()命令会看到如下信息：


{
            "set" : "testrs",
            "date" : ISODate("2013-01-05T02:44:43Z"),
            "myState" : 1,
            "members" : [
                    {
                            "_id" : 0,
                            "name" : "192.168.209.128:27004",
                            "health" : 1,
                            "state" : 1,
                            "stateStr" : "PRIMARY",
                            "uptime" : 200,
                            "optime" : Timestamp(1357285565000, 1),
                            "optimeDate" : ISODate("2017-12-22T07:46:05Z"),
                            "self" : true
                    },
                    {
                            "_id" : 1,
                            "name" : "192.168.209.128:27003",
                            "health" : 1,
                            "state" : 2,
                            "stateStr" : "SECONDARY",
                            "uptime" : 200,
                            "optime" : Timestamp(1357285565000, 1),
                            "optimeDate" : ISODate("2017-12-22T07:46:05Z"),
                            "lastHeartbeat" : ISODate("2017-12-22T02:44:42Z"),
                            "pingMs" : 0
                    },
                    {
                            "_id" : 2,
                            "name" : "192.168.209.128:27005",
                            "health" : 1,
                            "state" : 7,
                            "stateStr" : "ARBITER",
                            "uptime" : 200,
                            "lastHeartbeat" : ISODate("2017-12-22T02:44:42Z"),
                            "pingMs" : 0
                    }
            ],
            "ok" : 1
    }

如果配置正在生效，其中会包含如下信息：


"stateStr" : "STARTUP"

同时可以查看对应节点的日志，发现正在等待别的节点生效或者正在分配数据文件。
现在基本上已经完成了集群的所有搭建工作。至于测试工作，可以留给大家自己试试。一个是往主节点插入数据，能从备节点查到之前插入的数据（查询备节点可能会遇到某个问题，可以自己去网上查查看）。二是停掉主节点，备节点能变成主节点提供服务。三是恢复主节点，备节点也能恢复其备的角色，而不是继续充当主的角色。二和三都可以通过rs.status()命令实时查看集群的变化。

4、MongoDB数据分片

和Replica Set类似，都需要一个仲裁节点，但是Sharding还需要配置节点和路由节点。就三种集群搭建方式来说，这种是最复杂的。

4.1、配置数据节点


mkdir -p /opt/mongodb/shard/replset/replica1/data
mkdir -p /opt/mongodb/shard/replset/replica1/logs
mkdir -p /opt/mongodb/shard/replset/replica2/data
mkdir -p /opt/mongodb/shard/replset/replica2/logs
mkdir -p /opt/mongodb/shard/replset/replica3/data
mkdir -p /opt/mongodb/shard/replset/replica3/logs
vi /opt/mongodb/shard/replset/replica1/mongodb.cfg
dbpath=/opt/mongodb/shard/replset/replica1/data
logpath=/opt/mongodb/shard/replset/replica1/logs/mongodb.log
logappend=true
fork=true
bind_ip=192.168.209.128
port=27001
replSet=shard001
shardsvr=true
vi /opt/mongodb/shard/replset/replica2/mongodb.cfg
dbpath=/opt/mongodb/shard/replset/replica2/data
logpath=/opt/mongodb/shard/replset/replica2/logs/mongodb.log
logappend=true
fork=true
bind_ip=192.168.209.128
port=27002
replSet=shard001
shardsvr=true
vi /opt/mongodb/shard/replset/replica3/mongodb.cfg
dbpath=/opt/mongodb/shard/replset/replica3/data
logpath=/opt/mongodb/shard/replset/replica3/logs/mongodb.log
logappend=true
fork=true
bind_ip=192.168.209.128
port=27003
replSet=shard001
shardsvr=true

4.2、启动数据节点


mongod -f /opt/mongodb/shard/replset/replica1/mongodb.cfg #192.168.209.128:27001
mongod -f /opt/mongodb/shard/replset/replica2/mongodb.cfg #192.168.209.128:27002
mongod -f /opt/mongodb/shard/replset/replica3/mongodb.cfg #192.168.209.128:27003

4.3、使数据节点集群生效


mongo 192.168.209.128:27001   #ip和port是某个节点的地址
cfg={_id:"shard001",members:[{_id:0,host:'192.168.209.128:27001'},{_id:1,host:'192.168.209.128:27002'},{_id:2,host:'192.168.209.128:27003'}]};
rs.initiate(cfg)  #使配置生效

4.4、配置configsvr


mkdir -p /opt/mongodb/shard/configsvr/config1/data
mkdir -p /opt/mongodb/shard/configsvr/config1/logs
mkdir -p /opt/mongodb/shard/configsvr/config2/data
mkdir -p /opt/mongodb/shard/configsvr/config2/logs
mkdir -p /opt/mongodb/shard/configsvr/config3/data
mkdir -p /opt/mongodb/shard/configsvr/config3/logs
/opt/mongodb/shard/configsvr/config1/mongodb.cfg
dbpath=/opt/mongodb/shard/configsvr/config1/data
configsvr=true
port=28001
fork=true
logpath=/opt/mongodb/shard/configsvr/config1/logs/mongodb.log
replSet=configrs
logappend=true
bind_ip=192.168.209.128
/opt/mongodb/shard/configsvr/config2/mongodb.cfg
dbpath=/opt/mongodb/shard/configsvr/config2/data
configsvr=true
port=28002
fork=true
logpath=/opt/mongodb/shard/configsvr/config2/logs/mongodb.log
replSet=configrs
logappend=true
bind_ip=192.168.209.128
/opt/mongodb/shard/configsvr/config3/mongodb.cfg
dbpath=/opt/mongodb/shard/configsvr/config3/data
configsvr=true
port=28003
fork=true
logpath=/opt/mongodb/shard/configsvr/config3/logs/mongodb.log
replSet=configrs
logappend=true
bind_ip=192.168.209.128

4.5、启动configsvr节点


mongod -f /opt/mongodb/shard/configsvr/config1/mongodb.cfg #192.168.209.128:28001
mongod -f /opt/mongodb/shard/configsvr/config2/mongodb.cfg #192.168.209.128:28002
mongod -f /opt/mongodb/shard/configsvr/config3/mongodb.cfg #192.168.209.128:28003

4.6、使configsvr节点集群生效


mongo 192.168.209.128:28001   #ip和port是某个节点的地址
use admin  #先切换到admin
cfg={_id:"configrs",members:[{_id:0,host:'192.168.209.128:28001'},{_id:1,host:'192.168.209.128:28002'},{_id:2,host:'192.168.209.128:28003'}]};
rs.initiate(cfg)  #使配置生效

配置路由节点


mkdir -p /opt/mongodb/shard/routesvr/logs
#注意:路由节点没有data文件夹
vi /opt/mongodb/shard/routesvr/mongodb.cfg
configdb=configrs/192.168.209.128:28001,192.168.209.128:28002,192.168.209.128:28003
port=30000
fork=true
logpath=/opt/mongodb/shard/routesvr/logs/mongodb.log
logappend=true
bind_ip=192.168.209.128

4.7.启动路由节点


./mongos -f /opt/mongodb/shard/routesvr/mongodb.cfg #192.168.209.128:30000

这里我们没有用配置文件的方式启动，其中的参数意义大家应该都明白。一般来说一个数据节点对应一个配置节点，仲裁节点则不需要对应的配置节点。注意在启动路由节点时，要将配置节点地址写入到启动命令里。

4.8.配置Replica Set

这里可能会有点奇怪为什么Sharding会需要配置Replica Set。其实想想也能明白，多个节点的数据肯定是相关联的，如果不配一个Replica Set，怎么标识是同一个集群的呢。这也是人家mongodb的规定，咱们还是遵守吧。配置方式和之前所说的一样，定一个cfg，然后初始化配置。

4.9.配置Sharding


mongo 192.168.209.128:30000   #这里必须连接路由节点
sh.addShard("shard001/192.168.209.128:27001");
sh.addShard("shard002/192.168.209.128:27017");
 #shard001、shard002表示replica set的名字 当把主节点添加到shard以后，会自动找到set里的主，备，决策节点
use testdb
sh.enableSharding("testdb")    #testdb is database name
sh.shardCollection("testdb.testcon",{"name":”hashed”})
db.collection.status()

第一个命令很容易理解，第二个命令是对需要进行Sharding的数据库进行配置，第三个命令是对需要进行Sharding的Collection进行配置，这里的testcon即为Collection的名字。另外还有个key，这个是比较关键的东西，对于查询效率会有很大的影响。
到这里Sharding也已经搭建完成了，以上只是最简单的搭建方式，其中某些配置仍然使用的是默认配置。如果设置不当，会导致效率异常低下，所以建议大家多看看官方文档再进行默认配置的修改。

以上三种集群搭建方式首选Replica Set，只有真的是大数据，Sharding才能显现威力，毕竟备节点同步数据是需要时间的。Sharding可以将多片数据集中到路由节点上进行一些对比，然后将数据返回给客户端，但是效率还是比较低的说。

我自己有测试过，不过具体的机器配置已经不记得了。Replica Set的ips在数据达到1400W条时基本能达到1000左右，而Sharding在300W时已经下降到500 IPS，两者的单位数据大小大概是10kb。大家在应用的时候还是多多做下性能测试，毕竟不像Redis有benchmark。

MongoDB高级应用之高可用方案实战（4）

本文为”Tom弹架构”原创，转载请注明出处。技术在于分享，我分享我快乐！
如果本文对您有帮助，欢迎关注和点赞；如果您有任何建议也可留言评论或私信，您的支持是我坚持创作的动力。

原创不易，坚持很酷，都看到这里了，小伙伴记得点赞、收藏、在看，一键三连加关注！如果你觉得内容太干，可以分享转发给朋友滋润滋润！

Original: https://www.cnblogs.com/gupaoedu-tom/p/15770668.html
Author: Tom弹架构
Title: MongoDB高级应用之高可用方案实战（4）

原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/579190/

转载文章受原作者版权保护。转载请注明原作者出处！

赞 (0)
0

【自取】最近整理的，有需要可以领取学习：



Linux核心资料大放送~

全栈面试题汇总（持续更新&可下载）

一个提高学习100%效率的工具！

【超详细】深度学习面试题目！

LeetCode Python刷题答案下载！

LeetCode Java版刷题答案下载！

LeetCode C++ 版本，抓紧保存！

LeetCode GO语言 刷题答案下载！

大家都在看

  • nginx 替换

    nginx: [emerg] the “ssl” parameter requires ngx_http_ssl_module in /usr/local/…

    Java 2023年5月30日
    075

  • 干掉 PowerDesigner，这款数据库设计神器真的绝了！！！

    最近在造轮子，从 0 到 1 的那种，就差前台的界面了，大家可以耐心耐心耐心期待一下。其中需要设计一些数据库表，可以通过 Navicat 这种图形化管理工具直接开搞，也可以通过一些…

    Java 2023年6月9日
    081

  • 项目一共30个模块，你叫我maven版本一个个手动改？

    大家好呀，我是铂赛东，一个乱入公众号博主的开源作者。今天分享一个maven小技巧，希望帮助到大家。 之前有个群友私聊问我，如何快速统一去更改项目中所有的maven版本号，他说之前都…

    Java 2023年6月8日
    081

  • 二进制加法

    给定两个 01 字符串 a 和 b ，请计算它们的和，并以二进制字符串的形式输出。 输入为 非空 字符串且只包含数字 1 和 0。 示例 1: 输&#…

    Java 2023年6月7日
    078

  • 二叉树的遍历

    二叉树的遍历应用实例 前序遍历，中序遍历，后序遍历步骤 前序遍历 1.先输出当前节点2.如果当前节点的左子节点不为空，则递归前序遍历3.如果当前节点的右子节点不为空，则递归前序遍历…

    Java 2023年6月15日
    074

  • Python 阿里云OSS文件上传下载与文件删除及检索示例

    实践环境 运行环境：Python 3.5.4CentOS Linux release 7.4.1708 (Core)/Win10 需要安装以下类库：pip3 install set…

    Java 2023年6月16日
    075

  • 解放双手！推荐一款 GitHub 星标 8.2k+的命令行软件管理器，非常酷炫!

    小二是公司新来的实习生，之前面试的过程中对答如流，所以我非常看好他。第一天，我给他了一台新电脑，要他先在本地搭建个 Java 开发环境。 二话不说，他就开始马不停蹄地行动了。 真没…

    Java 2023年6月9日
    088

  • 线程池原理–通过演进过程来讲原理可以说很容易理解了

    文章链接 作者：习惯沉淀 如果文中有误或对本文有不同的见解，欢迎在评论区留言。 如果觉得文章对你有帮助，请点击文章右下角【推荐】一下。您的鼓励是博主的最大动力！ 扫码关注一线码农的…

    Java 2023年5月30日
    081

  • Tomcat线程数与处理速度的关系

    问题：Tomcat线程数是不是越大越好呢？ 答案肯定是否定的。 Tomcat的处理速度跟线程数不是完全成正比的，设置不恰当会出现相反的效果。服务的负载计算包括了CPU的使用率和资源…

    Java 2023年5月30日
    066

  • Double类型输出Json反序列化入库Mongodb变字符串问题解决

    场景 预处理音频数据，生成音频描述文件，文件中含有音频分段信息，需要支持小数，把分段信息写入manifest文本文件中去，当我们创建数据处理任务批次的时候，我们会解析manifes…

    Java 2023年6月7日
    082

  • 教学日志：javaSE-面向对象1

    对象，类，属性，方法的理解 package com.tengxun.class6.oop1; /** * @Auther: Yu Panpan * @Date: 2021/12/7…

    Java 2023年6月5日
    0101

  • springboot jpa—->总结一下遇到的问题

    Native Query throw exception dto code import lombok.Value; @Value public class IdsOnly { I…

    Java 2023年5月30日
    075

  • JVM学习 运行时数据区 PC寄存器、本地方法栈、虚拟机栈

    2、运行时数据区 哔哩哔哩 尚硅谷视频 宋红康老师 2.1、程序计数器（PC寄存器） 作用 PC寄存器用来存储指向下一条指令的地址，也就是即将要执行指令的代码。由执行引擎读取下一条…

    Java 2023年6月16日
    091

  • 自己写了个Java RMI（远程方法调用）的实现案例

    自己简单写了个Java RMI（远程方法调用）的实现案例。 为了更好理解RMI（远程方法调用）、序列化的意义等等，花费三天多的时间肝了一个Java RMI的实现案例。 ！！！高能预…

    Java 2023年6月5日
    0113

  • 原型模式详解

    原型模式 1.1原型模式概述 1.1.1原型模式定义 原型模式（Prototype Pattern）指原型实例指定创建对象的种类，并且通过复制这些原型创建新的对象，属于创建型设计模…

    Java 2023年6月7日
    0110

  • 面试突击70：什么是粘包和半包？怎么解决？

    粘包和半包问题是数据传输中比较常见的问题，所谓的 粘包问题是指数据在传输时，在一条消息中读取到了另一条消息的部分数据，这种现象就叫做粘包。 比如发送了两条消息，分别为”…

    Java 2023年5月29日
    0107
亲爱的 Coder【最近整理，可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球