Redis Cluster集群部署搭建

在Oracle的路上走了許多年，換換感覺，嘗試一下新的知識，也是一個不錯的感覺。Redis，一個超輕量化的內存數據庫，只做一小塊數據庫功能實現，卻非常優秀的一個產品。今天，就分享一下安裝Redis集群的過程。

搭建redis集群，建議至少需要準備3臺服務器，共搭建6個節點，3個master,3個slave，并且要求3個master節點不能全部跑到同一臺服務器上，保證節點安全，3臺服務器的配置相同，使用redistest賬號搭建，對應的端口是7000/7001/7002端口

我的集群分配如下，每個節點運行兩個端口。第一列做主庫，第二列做備庫

192.8.8.136:7000  192.8.8.136:7001  
192.8.8.137:7001  192.8.8.137:7002
192.8.8.138:7002  192.8.8.138:7000

1、使用已經編譯完成的安裝報安裝(就使用文檔末尾連接的安裝包即可)，解壓并放到/home/redistest目錄下，修改對應的redis.conf文件，并復制出6份，每個節點兩個redis目錄
[redistest]$ ll
total 13284

drwxr-xr-x 2 redistest users 4096 Aug 9 06:44 7000
drwxr-xr-x 2 redistest users 4096 Aug 9 06:44 7001
drwxr-xr-x 2 redistest users 4096 Aug 9 06:44 7002
-rwxr-xr-x 1 redistest users 5708657 Aug 22 2016 redis-cli
-rwxr-xr-x 1 redistest users 7817132 Aug 22 2016 redis-server
-rwxr-xr-x 1 redistest users 60578 Aug 9 06:21 redis-trib.rb

2、此時有3個執行文件，redis-server/redis-cli/redis-trib.rb

3、創建7000文件夾，并將redis.conf拷貝到7000文件目錄下，注意修改對應的幾個關鍵配置項(主要就是改端口號)

daemonize yes // redis后臺運行
pidfile /var/run/redis_7000.pid // pid文件，運行多個實例時，需要指定不同的pid文件
port 7000 // 監聽端口，運行多個實例時，需要指定不同的斷奶口
tcp-backlog 511
tcp-keepalive 0
loglevel notice // 日志等級
logfile ./redis.log // 日志文件位置
databases 16 // 可用數據庫數
appendonly yes // redis會把所接收到的每一次寫操作請求都追加到appendonly.aof文件中，當redis重新啟動時，會從該文件恢復出之前的狀態。
appendfilename "appendonly.aof" // AOF文件名稱
appendfsync everysec // 表示對寫操作進行累積，每秒同步一次
no-appendfsync-on-rewrite yes // AOF 自動重寫
auto-aof-rewrite-percentage 80-100 // 重寫百分比
auto-aof-rewrite-min-size 64mb //

注：完整配置，請參考軟件包中的redis.conf文件
 
4、拷貝7000文件夾，粘貼出新文件夾7001/7002,分別將7001/7002文件夾中的redis.conf文件中的7000替換成為7001/7002。

5、切換到root用戶，使用yum安裝ruby，yum -y install ruby rubygems，并執行gem install redis，這樣便完成ruby安裝，可以使用redis-trib.rb搭建集群
注：redis-trib.rb是基于ruby開發的，所以必須要安裝ruby環境。

yum安裝很方便，但是有的風場是無法連接外網的，也就無法使用yum。軟件包中已經包含ruby rubygems的軟件包，直接安裝即可。

ruby的下載路徑：
https://rubygems.org/gems/redis

然后通過下面命令本地安裝ruby

yum -y localinstall ruby rubygems
gem install redis

6、另外兩臺服務器做同樣的配置操作，開啟該機器的2個redis節點，當完成3臺機器的redis節點搭建后，可以啟動redis，并使用ps查看redis運行情況情況

7、開啟redis服務
進入7000目錄，啟動redis

cd 7000
../redis-server redis.conf
cd ..
cd 7001
../redis-server redis.conf

[redistest@ip-172-18-98-136 redis]$ ps -ef|grep redis
redistest   3864     1  0 13:02 ?        00:00:00 ../redis-server *:7000 [cluster]
redistest   3869     1  0 13:02 ?        00:00:00 ../redis-server *:7001 [cluster]
redistest   3888  3778  0 13:05 pts/3    00:00:00 grep redis

注意：由于redis.conf文件使用的都是相對路徑，并且生成的一些文件，如aof文件是不能覆蓋重復的，因此標準的開啟redis-server的操作是，進入到7000/7001/7002等目錄中執行，../redis-server redis.conf，這樣各個實例生成的文件就在各自的目錄下，互不干擾；當然如果修改redis.conf的配置文件目錄，則可以實現在不同的目錄下執行redis-server，這個可以靈活掌握和運用

8、redis節點搭建起來后，需要完成redis cluster集群搭建，搭建集群過程中，需要保證6個redis實例都是運行狀態。
Redis是根據IP和Port的順序，確定master和slave的，所以要排好序，再執行。
輸出如下

[redistest@ip-172-18-98-136 redis]$ ./redis-trib.rb create --replicas 1 192.8.8.136:7000 192.8.8.137:7001 192.8.8.138:7002 192.8.8.137:7002 192.8.8.136:7001  192.8.8.138:7000 
>>> Creating cluster
>>> Performing hash slots allocation on 6 nodes...
Using 3 masters:
192.8.8.138:7002
192.8.8.137:7001
192.8.8.136:7000
Adding replica 192.8.8.137:7002 to 192.8.8.138:7002
Adding replica 192.8.8.138:7000 to 192.8.8.137:7001
Adding replica 192.8.8.136:7001 to 192.8.8.136:7000
M: 6780f0fadd82825d04e524fd81fa710403e7152e 192.8.8.136:7000
   slots:10923-16383 (5461 slots) master
M: b00521fd8b0fae93d9e56fa6afe505ec9574c399 192.8.8.137:7001
   slots:5461-10922 (5462 slots) master
M: 6f9c383ec47461c2a86265f5db506e10397605d8 192.8.8.138:7002
   slots:0-5460 (5461 slots) master
S: fc510e5cdcc78a42ef871251736d365db5311c7f 192.8.8.137:7002
   replicates 6f9c383ec47461c2a86265f5db506e10397605d8
S: 6e4ae3851e018c08ba5cec96f113815db1931b4d 192.8.8.136:7001
   replicates 6780f0fadd82825d04e524fd81fa710403e7152e
S: 5b39cd3bd706d30b5470089f71bd29738b306d3b 192.8.8.138:7000
   replicates b00521fd8b0fae93d9e56fa6afe505ec9574c399
Can I set the above configuration? (type 'yes' to accept): yes
>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join.....
>>> Performing Cluster Check (using node 192.8.8.136:7000)
M: 6780f0fadd82825d04e524fd81fa710403e7152e 192.8.8.136:7000
   slots:10923-16383 (5461 slots) master
M: b00521fd8b0fae93d9e56fa6afe505ec9574c399 192.8.8.137:7001
   slots:5461-10922 (5462 slots) master
M: 6f9c383ec47461c2a86265f5db506e10397605d8 192.8.8.138:7002
   slots:0-5460 (5461 slots) master
M: fc510e5cdcc78a42ef871251736d365db5311c7f 192.8.8.137:7002
   slots: (0 slots) master
   replicates 6f9c383ec47461c2a86265f5db506e10397605d8
M: 6e4ae3851e018c08ba5cec96f113815db1931b4d 192.8.8.136:7001
   slots: (0 slots) master
   replicates 6780f0fadd82825d04e524fd81fa710403e7152e
M: 5b39cd3bd706d30b5470089f71bd29738b306d3b 192.8.8.138:7000
   slots: (0 slots) master
   replicates b00521fd8b0fae93d9e56fa6afe505ec9574c399
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

其中Master的節點是：192.8.8.136:7000/192.8.8.137:7001/192.8.8.138:7002分布在不同的服務器上，該集群的搭建的實現了負載均衡，至此redis集群的搭建過程基本完畢；
 
9、檢查集群狀態

[redistest@ip-172-18-98-136 redis]$ ./redis-trib.rb check 192.8.8.136:7000
>>> Performing Cluster Check (using node 192.8.8.136:7000)
M: 6780f0fadd82825d04e524fd81fa710403e7152e 192.8.8.136:7000
   slots:10923-16383 (5461 slots) master
   1 additional replica(s)
M: 6f9c383ec47461c2a86265f5db506e10397605d8 192.8.8.138:7002
   slots:0-5460 (5461 slots) master
   1 additional replica(s)
S: 6e4ae3851e018c08ba5cec96f113815db1931b4d 192.8.8.136:7001
   slots: (0 slots) slave
   replicates 6780f0fadd82825d04e524fd81fa710403e7152e
S: fc510e5cdcc78a42ef871251736d365db5311c7f 192.8.8.137:7002
   slots: (0 slots) slave
   replicates 6f9c383ec47461c2a86265f5db506e10397605d8
M: b00521fd8b0fae93d9e56fa6afe505ec9574c399 192.8.8.137:7001
   slots:5461-10922 (5462 slots) master
   1 additional replica(s)
S: 5b39cd3bd706d30b5470089f71bd29738b306d3b 192.8.8.138:7000
   slots: (0 slots) slave
   replicates b00521fd8b0fae93d9e56fa6afe505ec9574c399
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.
[redistest@ip-172-18-98-136 redis]$ ./redis-trib.rb info 192.8.8.136:7000
192.8.8.136:7000 (6780f0fa...) -> 0 keys | 5461 slots | 1 slaves.
192.8.8.138:7002 (6f9c383e...) -> 0 keys | 5461 slots | 1 slaves.
192.8.8.137:7001 (b00521fd...) -> 0 keys | 5462 slots | 1 slaves.
[OK] 0 keys in 3 masters.
0.00 keys per slot on average.

10 、檢查集群信息

./redis-trib.rb info 192.8.8.136:7000

11、如果在執行./redis-trib.rb create --replicas 過程中，長時間沒有完成，或者遇到其他錯誤。如果需要重新執行配置集群的話。
需要關閉redis實例，刪除7000/7001/7002目錄下，除了redis.conf文件之外的全部文件，再啟動redis實例，并再次執行./redis-trib.rb create即可。

12、連接數據庫，查詢數據

[root@localhost src]# redis-cli -c -p 7000
127.0.0.1:7000> cluster meet 127.0.0.1 7000
OK

至此，redis集群已經大家完成，下面我們需要完成redis隨著操作系統啟動，減少后續維護的成本。

13、編輯文件/home/redistest/startAll.sh，注意，要寫全路徑

/home/redistest/redis/redis-server /home/redistest/redis/7000/redis.conf
/home/redistest/redis/redis-server /home/redistest/redis/7001/redis.conf

命令行，加入/etc/rc.local文件夾下，需要以redistest用戶啟動redis

su - redistest -c /home/redistest/startAll.sh

軟件包過大，無法在blog中上傳，已經上傳到51cto下載中心，請到下載中心下載。

http://down.51cto.com/data/2334650