深入浅出Redis(二)

一. Redis集群

Redis-Cluster采用无中心结构,每个节点保存数据和整个集群状态,每个节点都和其他所有节点连接。

客户端与 redis 节点直连,不需要中间 proxy 层.客户端不需要连接集群所有节点连接集群中任何一个可用节点即可。

1.1 集群通信机制

Redis集群内节点通过ping/pong消息实现节点通信,消息不但可以传播节点槽信息,还可以传播其他状态如:主从状态、节点故障等。因此故障发现也是通过消息传播机制实现的,主要环节包括:主观下线(pfail)和客观下线(fail)

1.2 判断节点宕机

如果一个节点认为另外一个节点宕机,那么就是pfail,主观宕机,如果多个节点都认为另外一个节点宕机了,那么就是fail,客观宕机。在cluster-node-timeout内,某个节点一直没有返回pong,那么就被认为pfail

1.3 从节点过滤

对宕机的master node,从其所有的slave node中,选择一个切换成master node,检查每个slave node与master node断开连接的时间,如果超过了cluster-node-timeout * cluster-slave-validity-factor,那么就没有资格切换成master

1.4 从节点选举

每个从节点,都根据自己对master复制数据的offset,来设置一个选举时间,offset越大(复制数据越多)的从节点,选举时间越靠前,优先进行选举。所有的master node开始slave选举投票,给要进行选举的slave进行投票,如果大部分master node(N/2 + 1)都投票给了某个从节点,那么选举通过,那个从节点可以切换成master。从节点执行主备切换,从节点切换为主节点

2.1 分布存储机制-槽Slots

(1)redis-cluster 把所有的物理节点映射到[0-16383]slot 上,cluster 负责维护node<->slot<->value
(2)Redis 集群中内置了 16384 个哈希槽,当需要在 Redis 集群中放置一个 key-value 时,redis 先对 key 使用 crc16 算法算出一个结果,然后把结果对 16384 求余数,这样每个key 都会对应一个编号在 0-16383 之间的哈希槽,redis 会根据节点数量大致均等的将哈希槽映射到不同的节点。

例如三个节点:槽分布的值如下:

  • SERVER1: 0-5460
  • SERVER2: 5461-10922
  • SERVER3: 10923-16383

(3)如果一台机器接收到不是自己负责的slot的数据,就会把请求“转发”给该负责的机器。这个就叫转向 (Redirection)。

怎么确定新来的数据在哪台机器上写入呢?

Redis利用了Hash Table数据结构的基本原理,即通过一个Hash function把key映射为一个固定的整数number。通过number % 16384而得到一个固定的index整数值,根据这个index就能直到它所属的slot在哪个“负责人”位置了。

2.2 部署集群

IP 192.168.118.170 192.168.118.171 192.168.118.172
master端口 6379 6379 6379
slave端口 6380 6380 6380
2.3.1 安装相关依赖包
sudo yum install -y  --downloaddir=/home/tfd/setup/yum gcc gcc-c autoconf automake  rpm-build tcl libtool numactl   
2.3.2 解压安装
tar zxvf redis-6.2.1.tar.gz;
mv redis-6.2.1 /home/tfd/app/redis;
cd /home/tfd/app/redis;
make;
make test;
#如果测试的有报错,请清除编译的文件make clean
make PREFIX=/home/tfd/app/redis install;
2.3.3 增加环境变量
sudo vim /etc/profile
#Redis
export Redis=/home/tfd/app/redis
export PATH=PATH:Redis/bin

立即生效

source /etc/profile
2.3.4 创建数据目录
mkdir -p /home/tfd/app/redis_cluster/{6379,6380}/{data,log};
cp /home/tfd/app/redis/redis.conf /home/tfd/app/redis_cluster/6379;
cp /home/tfd/app/redis/redis.conf /home/tfd/app/redis_cluster/6380;
2.3.5 修改配置文件

6379端口:

vim /home/tfd/app/redis_cluster/6379/redis.conf
#绑定ip
bind 192.168.118.170
#服务端口
port 6379
#后台运行
daemonize yes
#pid文件
pidfile /var/run/redis_6379.pid
#指定日志文件
logfile "/home/tfd/app/redis_cluster/6379/log/redis-6379.log"
#指定数据文件路径
dir "/home/tfd/app/redis_cluster/6379/data"
#默认过期策略,只对设置龙过期时间的key进行LRU(默认值)
maxmemory-policy volatile-lru
#去掉注释,开启集群
cluster-enabled yes
#集群配置,对应端口
 cluster-config-file "/home/tfd/app/redis_cluster/6379/nodes-6379.conf"
 #请求超时,默认15秒,可自行设置
 cluster-node-timeout 15000
 #aof日志开启,如有需要可开启
appendonly no
save ""
save 3600 1
save 300 100
save 60 10000

6380端口:

vim /home/tfd/app/redis_cluster/6380/redis.conf
#绑定ip
bind 192.168.118.170
#服务端口
port 6380
#后台运行
daemonize yes
#pid文件
pidfile /var/run/redis_6380.pid
#指定日志文件
logfile "/home/tfd/app/redis_cluster/6380/log/redis-6380.log"
#指定数据文件路径
dir "/home/tfd/app/redis_cluster/6380/data"
#默认过期策略,只对设置了过期时间的key进行LRU(默认值)
maxmemory-policy volatile-lru
#去掉注释,开启集群
cluster-enabled yes
#集群配置,对应端口
 cluster-config-file "/home/tfd/app/redis_cluster/6380/nodes-6380.conf"
 #请求超时,默认15秒,可自行设置
 cluster-node-timeout 15000
 #aof日志开启,如有需要可开启
appendonly no
save ""

快速修改

sed -i 's/bind 127.0.0.1/bind 192.168.118.170/g' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's/bind 127.0.0.1/bind 192.168.118.170/g' /home/tfd/app/redis_cluster/6380/redis.conf;
sed -i 's/port 6379/port 6380/g' /home/tfd/app/redis_cluster/6380/redis.conf;
sed -i 's/daemonize no/daemonize yes/g' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's/daemonize no/daemonize yes/g' /home/tfd/app/redis_cluster/6380/redis.conf;
sed -i 's/redis_6379.pid/redis_6380.pid/g' /home/tfd/app/redis_cluster/6380/redis.conf;
sed -i 's#logfile ""#logfile "/home/tfd/app/redis_cluster/6379/log/redis-6379.log"#g' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's#logfile ""#logfile "/home/tfd/app/redis_cluster/6380/log/redis-6380.log"#g' /home/tfd/app/redis_cluster/6380/redis.conf;
sed -i 's#dir ./#dir "/home/tfd/app/redis_cluster/6379/data"#g' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's#dir ./#dir "/home/tfd/app/redis_cluster/6380/data"#g' /home/tfd/app/redis_cluster/6380/redis.conf;
sed -i 's/# maxmemory-policy noeviction/maxmemory-policy volatile-lru/g' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's/# maxmemory-policy noeviction/maxmemory-policy volatile-lru/g' /home/tfd/app/redis_cluster/6380/redis.conf;
sed -i 's/# cluster-enabled yes/cluster-enabled yes/g' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's/# cluster-enabled yes/cluster-enabled yes/g' /home/tfd/app/redis_cluster/6380/redis.conf;
sed -i 's%# cluster-config-file nodes-6379.conf% cluster-config-file "/home/tfd/app/redis_cluster/6379/nodes-6379.conf"%g' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's%# cluster-config-file nodes-6379.conf% cluster-config-file "/home/tfd/app/redis_cluster/6380/nodes-6380.conf"%g' /home/tfd/app/redis_cluster/6380/redis.conf;
sed -i 's/# cluster-node-timeout 15000/cluster-node-timeout 15000/g' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's/# cluster-node-timeout 15000/cluster-node-timeout 15000/g' /home/tfd/app/redis_cluster/6380/redis.conf;
sed -i 's/save \"\"/save \"\"/' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's/# save ""/save ""/g' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's/# save ""/save ""/g' /home/tfd/app/redis_cluster/6380/redis.conf;
2.3.6 启动脚本

6379:

tee -a /home/tfd/app/redis_cluster/6379/6379.sh <<-'EOF'
#!/bin/sh
#端口
REDISPORT=6379
#执行命令
EXEC=/home/tfd/app/redis/bin/redis-server
CLIEXEC=/home/tfd/app/redis/bin/redis-cli
#pid和配置文件
PIDFILE=/var/run/redis_{REDISPORT}.pid
CONF="/home/tfd/app/redis_cluster/6379/redis.conf"

case "1" in
    start)
        if [ -f PIDFILE ]
        then
                echo "PIDFILE exists, process is already running or crashed"
        else
                echo "Starting Redis server..."
                EXECCONF
        fi
        ;;
    stop)
        if [ ! -f PIDFILE ]
        then
                echo "PIDFILE does not exist, process is not running"
        else
                PID=(catPIDFILE)
                echo "Stopping ..."
                CLIEXEC -pREDISPORT shutdown
                while [ -x /proc/${PID} ]
                do
                    echo "Waiting for Redis to shutdown ..."
                    sleep 1
                done
                echo "Redis stopped"
        fi
        ;;
    *)
        echo "Please use start or stop as first argument"
        ;;
esac
EOF

6380

tee -a /home/tfd/app/redis_cluster/6380/6380.sh <<-'EOF'
#!/bin/sh
REDISPORT=6380
EXEC=/home/tfd/app/redis/bin/redis-server
CLIEXEC=/home/tfd/app/redis/bin/redis-cli

PIDFILE=/var/run/redis_{REDISPORT}.pid
CONF="/home/tfd/app/redis_cluster/6380/redis.conf"

case "1" in
    start)
        if [ -f PIDFILE ]
        then
                echo "PIDFILE exists, process is already running or crashed"
        else
                echo "Starting Redis server..."
                EXECCONF
        fi
        ;;
    stop)
        if [ ! -f PIDFILE ]
        then
                echo "PIDFILE does not exist, process is not running"
        else
                PID=(catPIDFILE)
                echo "Stopping ..."
                CLIEXEC -pREDISPORT shutdown
                while [ -x /proc/${PID} ]
                do
                    echo "Waiting for Redis to shutdown ..."
                    sleep 1
                done
                echo "Redis stopped"
        fi
        ;;
    *)
        echo "Please use start or stop as first argument"
        ;;
esac
EOF

添加权限

chmod +x /home/tfd/app/redis_cluster/6379/6379.sh;
chmod +x /home/tfd/app/redis_cluster/6380/6380.sh;
2.3.7 拷贝到其他节点

改redis.conf中的bind ip,改成本机的

scp -r /home/tfd/app/ tfd@dc-did-server-2:/home/tfd;
sed -i 's/bind 192.168.118.170/bind 192.168.118.171/g' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's/bind 192.168.118.170/bind 192.168.118.171/g' /home/tfd/app/redis_cluster/6380/redis.conf;
scp -r /home/tfd/app/ tfd@dc-did-server-3:/home/tfd;
sed -i 's/bind 192.168.118.170/bind 192.168.118.172/g' /home/tfd/app/redis_cluster/6379/redis.conf;
sed -i 's/bind 192.168.118.170/bind 192.168.118.172/g' /home/tfd/app/redis_cluster/6380/redis.conf;
2.3.8 启动服务
/home/tfd/app/redis_cluster/6379/6379.sh start;
/home/tfd/app/redis_cluster/6380/6380.sh start;

查看redis启动情况

ps -efl | grep redis
2.3.9 创建集群

2.3.9.1建立三个master

redis-cli --cluster create 192.168.118.170:6379 192.168.118.171:6379 192.168.118.172:6379 --cluster-replicas 0

2.3.9.2 slave挂靠master

redis-cli --cluster add-node 192.168.118.171:6380 192.168.118.170:6379 --cluster-slave --cluster-master-id 53fed7f1682ffb9a2e507f282149a25c0563e224;
redis-cli --cluster add-node 192.168.118.172:6380 192.168.118.171:6379 --cluster-slave --cluster-master-id 6ca24bfba979ef3ec93d222320cd3c565249744a;
redis-cli --cluster add-node 192.168.118.170:6380 192.168.118.172:6379 --cluster-slave --cluster-master-id 4827391da498f9d659493d0853d6fe0f8025f139;
2.3.10 集群验证
redis-cli -c -h 192.168.118.170 -p 6379 cluster nodes
redis-cli -c -h 192.168.118.170 -p 6380
192.168.118.170:6380> set hello world

三. Redis 常用命令

3.1 集群命令

cluster info :打印集群的信息
cluster nodes :列出集群当前已知的所有节点( node),以及这些节点的相关信息。
节点
cluster meet :将 ip 和 port 所指定的节点添加到集群当中,让它成为集群的一份子。
cluster forget :从集群中移除 node_id 指定的节点。
cluster replicate :将当前节点设置为 node_id 指定的节点的从节点。
cluster saveconfig :将节点的配置文件保存到硬盘里面。
槽(slot)
cluster addslots [slot ...] :将一个或多个槽( slot)指派( assign)给当前节点。
cluster delslots [slot ...] :移除一个或多个槽对当前节点的指派。
cluster flushslots :移除指派给当前节点的所有槽,让当前节点变成一个没有指派任何槽的节点。
cluster setslot node :将槽 slot 指派给 node_id 指定的节点,如果槽已经指派给
另一个节点,那么先让另一个节点删除该槽>,然后再进行指派。
cluster setslot migrating :将本节点的槽 slot 迁移到 node_id 指定的节点中。
cluster setslot importing :从 node_id 指定的节点中导入槽 slot 到本节点。
cluster setslot stable :取消对槽 slot 的导入( import)或者迁移( migrate)。

cluster keyslot :计算键 key 应该被放置在哪个槽上。
cluster countkeysinslot :返回槽 slot 目前包含的键值对数量。
cluster getkeysinslot :返回 count 个 slot 槽中的键

3.2 连接操作命令

  • quit:关闭连接(connection)
  • auth:简单密码认证
  • help cmd: 查看 cmd 帮助,例如:help quit

3.3 持久化

  • save:将数据同步保存到磁盘
  • bgsave:将数据异步保存到磁盘
  • lastsave:返回上次成功将数据保存到磁盘的 Unix 时戳
  • shutdown:将数据同步保存到磁盘,然后关闭服务

3.4 远程服务控制

  • info:提供服务器的信息和统计
  • monitor:实时转储收到的请求
  • slaveof:改变复制策略设置
  • config:在运行时配置 Redis 服务器

3.5 对 key 操作的命令

  • exists(key):确认一个 key 是否存在
  • del(key):删除一个 key
  • type(key):返回值的类型
  • keys(pattern):返回满足给定 pattern 的所有 key
  • randomkey:随机返回 key 空间的一个
  • keyrename(oldname, newname):重命名 key
  • dbsize:返回当前数据库中 key 的数目
  • expire:设定一个 key 的活动时间(s)
  • ttl:获得一个 key 的活动时间
  • select(index):按索引查询
  • move(key, dbindex):移动当前数据库中的 key 到 dbindex 数据库
  • flushdb:删除当前选择数据库中的所有 key
  • flushall:删除所有数据库中的所有 key

3.6 redis-benchmark

redis性能测试工具,测试redis在当前系统下的读写性能
- -h 检测主机ip地址
- -p 检测主机端口
- -s服务器套接字
- -c 并发连接数
- -n 请求数
- -d 测试使用的数据集的大小/字节(默认3字节)
- -k 1:表示保持连接(默认值) 0:重新连接
- -r SET/GET/INCR方法使用随机数插入数值,设置10则插入值为rand:000000000000 - rand:000000000009
- -P 默认为1(无管道),当网络延迟过长时,使用管道方式通信(请求和响应打包发送接收)
- -q 简约信息模式,只显示查询和秒值等基本信息
- --csv 以csv格式输出信息
- -l 无线循环插入测试数据,ctrl+c停止
- -t 只运行测试逗号分隔的列表命令,如 -t ping , set , get
- -I 空闲模式,立即打开50个空闲连接和等待

redis-benchmark -t set -n 1000000 -r 100000000
redis-benchmark -t ping,set,get -n 100000 –csv
redis-benchmark -r 10000 -n 10000 lpush mylist ele:rand:000000000000
redis-benchmark -h localhost -p 6379 -c 100 -n 100000

附.Redis的数据类型

Redis支持保存五种基本数据结构类型。string(字符串),hash(哈希),list(列表),set(集合)和zset(sorted set有序集合)。

1.string

它是redis的最基本的数据类型,一个键对应一个值,需要注意是一个键值最大存储512MB。一般用于一些复杂的计数功能的缓存;

2.hash

redis hash是一个键值对的集合,是一个string类型的field和value的映射表,这里的value存放的是结构化的对象,操作其中某个字段十分方便,适合用于存储对象;

3.list

是Redis类相对简单的字符串列表,通过list可以做简单的消息列队功能。list对应的是一个双向列表,按照插入顺序排序;

4.set

是string类型的无序集合,集合中的数据不能重复出现,所以可以用来做全局的去重功能;

5.zset

是string类型的有序集合,同set一样不可重复。有序集合中排序因子为每个元素附带一个double型的分数,根据分数对元素进行升序排序。如果多个元素有相同的分数,就会通过字典序完成升序排序,因此sorted set十分适合做排行榜应用。sorted set也可用来做延时任务。

6.redis.conf 配置文件说明
- daemonize 如需后台运行改为yes
- pdifile 把pid文件放在/var/run/redis.pid,可以配置到其他地址
- port 监听端口,默认为6379
- timeout 连接时的超时时间,单位为秒
- loglevel 四个级别:debug、verbose、notice、warning
- Debug 记录很多信息,用于开发和测试;
- Varbose 有用的信息,不像debug会记录那么多;
- Notice 普通的verbose,常用于生产环境;
- Warning 只有非常重要或者严重的信息会记录到日志; 默认是notice级别。
- logfile 日志路径,默认使用标准输出,即打印在命令行终端的端口上
- database 可用数据库数,默认值为16,默认使用的数据库是0
- save 保存快照的频率,第一个表示多长时间,第二个表示执行多少次写操作。在一定时间内执行一定数量的写操作时,自动保存快照。可设置多个条件。比如save 300 10 表示:300秒内至少有300个key被改变时,触发保存
- rdbcompression 在进行镜像备份时,是否进行压缩
- dbfilename 镜像备份文件的文件名
- dir 镜像备份的文件放置的路径
- slaveof 设置该数据库为其他数据库的从数据库
- masterauth 当主数据库连接需要密码验证时,在这里设定
- maxclients 限制同时连接的客户端数量
- appendonly 开启的话每次写操作会记一条log,这会提高数据抗风险能力,但影响效率
- appendfsync 设置aof的同步频率,有三种选择always、everysec、no,
- always每次写都强制调用fsync,everysec每秒启用一次fsync,
- no不调用fsync等待系统自己同步。默认是everysec表示每秒同步一次。
- vm_enabled 是否开启虚拟内存支持
- vm_swap_file 虚拟内存的交换文件的路径
- vm_max_momery 开启虚拟内存后,redis将使用的最大物理内存的大小,默认为0

THE END
分享
二维码
< <上一篇
下一篇>>
文章目录
关闭