歡迎光臨
每天分享高質量文章

學會這15點,讓你分分鐘拿下Redis資料庫

來自:民工哥Linux運維(微信號:mingongge-linux)

1、Redis簡介

     REmote DIctionary Server(Redis) 是一個由Salvatore Sanfilippo寫的key-value儲存系統。Redis是一個開源的使用ANSI C語言編寫、遵守BSD協議、支持網絡、可基於記憶體可持久化的日誌型、Key-Value資料庫,並提供多種語言的API。它通常被稱為資料結構服務器,因為值(value)可以是 字串(String), 哈希(Map), 串列(list), 集合(sets) 和 有序集合(sorted sets)等型別。

大家都知道了redis是基於key-value的no sql資料庫,因此,先來瞭解一下關於key相關的知識點

1、任何二進制的序列都可以作為key使用
2、Redis有
統一的規則來設計key
3、對key-value允許的
最大長度是512MB

2、支持的語言

ActionScript Bash  C  C#  C++  Clojure Common Lisp
Crystal  D  Dart  Elixir  emacs  lisp  Erlang  
Fancy  gawk  GNU Prolog  Go  Haskell  Haxe  Io Java  Javascript  
Julia  Lua  Matlab  mruby  Nim  Node.js  Objective-C  
OCaml Pascal  Perl  PHP  Pure Data  Python  R  Racket  
Rebol  Ruby  Rust Scala  Scheme  Smalltalk  Swift  Tcl  VB  VCL

3、Redis的應用場景到底有哪些??


1、最常用的就是會話快取
2、
訊息佇列,比如支付
3、活動
排行榜或計數
4、
發佈、訂閱訊息(訊息通知)
5、
商品串列、評論串列

4、Redis安裝

關於redis安裝與相關的知識點介紹請參考 Nosql資料庫服務之redis

安裝的大概步驟如下:

Redis是c語言開發的,安裝redis需要c語言的編譯環境

如果沒有gcc需要在線安裝:yum install gcc-c++

第一步:獲取原始碼包:wget http://download.redis.io/releases/redis-3.0.0.tar.gz

第二步:解壓縮redis:tar zxvf redis-3.0.0.tar.gz

第三步:編譯。進入redis原始碼目錄(cd redis-3.0.0)。執行 make

第四步:安裝。make install PREFIX=/usr/local/redis

#PREFIX引數指定redis的安裝目錄


5、Redis資料型別


Redis一共支持五種資料型別

1、string(字串)
2、
hash(哈希)
3、
list(串列)
4、
set(集合)
5、
zset(sorted set 有序集合)

string(字串)
它是redis最基本的資料型別,
一個key對應一個value,需要註意是一個鍵值最大儲存512MB。

127.0.0.1:6379> set key "hello world"
OK
127.0.0.1:6379> get key
"hello world"
127.0.0.1:6379> getset key "nihao"
"hello world"
127.0.0.1:6379> mset key1 "hi" key2 "nihao" key3 "hello"
OK
127.0.0.1:6379> get key1
"hi"
127.0.0.1:6379> get key2
"nihao"
127.0.0.1:6379> get key3
"hello"

相關命令介紹
set 為一個Key設置value(值)
get 獲得某個key對應的value(值)
getset 為一個Key設置value(值)並傳回對應的值
mset 為多個key設置value(值)

hash(哈希)
redis hash是一個
鍵值對的集合, 是一個string型別的field和value的映射表,適合用於儲存物件

127.0.0.1:6379> hset redishash 1 "001"
(integer) 1
127.0.0.1:6379> hget redishash 1
"001"
127.0.0.1:6379> hmset redishash 1 "001" 2 "002"
OK
127.0.0.1:6379> hget redishash 1
"001"
127.0.0.1:6379> hget redishash 2
"002"
127.0.0.1:6379> hmget redishash 1 2
1) "001"
2) "002"

相關命令介紹
hset 將Key對應的hash中的field配置為value,如果hash不存則自動創建,
hget 獲得某個hash中的field配置的值
hmset 批量配置同一個hash中的多個field值
hmget 批量獲得同一個hash中的多個field值

list(串列)
是redis簡單的
字串串列,它按插入順序排序

127.0.0.1:6379> lpush word  hi
(integer) 1
127.0.0.1:6379> lpush word  hello
(integer) 2
127.0.0.1:6379> rpush word  world
(integer) 3
127.0.0.1:6379> lrange word 0 2
1) "hello"
2) "hi"
3) "world"
127.0.0.1:6379> llen word
(integer) 3

相關命令介紹
lpush 向指定的串列左側插入元素,傳回插入後串列的長度
rpush 向指定的串列右側插入元素,傳回插入後串列的長度
llen  傳回指定串列的長度
lrange 傳回指定串列中指定範圍的元素值

set(集合)
是string型別的
無序集合,也不可重覆

127.0.0.1:6379> sadd redis redisset
(integer) 1
127.0.0.1:6379> sadd redis redisset1
(integer) 1
127.0.0.1:6379> sadd redis redisset2
(integer) 1
127.0.0.1:6379> smembers redis
1) "redisset1"
2) "redisset"
3) "redisset2"
127.0.0.1:6379> sadd redis redisset2
(integer) 0
127.0.0.1:6379> smembers redis
1) "redisset1"
2) "redisset"
3) "redisset2"
127.0.0.1:6379> smembers redis
1) "redisset1"
2) "redisset3"
3) "redisset"
4) "redisset2"
127.0.0.1:6379> srem redis redisset
(integer) 1
127.0.0.1:6379> smembers redis
1) "redisset1"
2) "redisset3"
3) "redisset2"

相關命令介紹
sadd 添加一個string元素到key對應的set集合中,成功傳回1,如果元素存在傳回0
smembers 傳回指定的集合中所有的元素
srem 刪除指定集合的某個元素

zset(sorted set 有序集合)
是string型別的
有序集合,也不可重覆
sorted set中的每個元素都需要指定一個分數,根據分數對元素進行升序排序,如果多個元素有相同的分數,則以字典序進行升序排序,sorted set 因此非常適合實現排名

127.0.0.1:6379> zadd nosql 0 001
(integer) 1
127.0.0.1:6379> zadd nosql 0 002
(integer) 1
127.0.0.1:6379> zadd nosql 0 003
(integer) 1
127.0.0.1:6379> zcount nosql 0 0
(integer) 3
127.0.0.1:6379> zcount nosql 0 3
(integer) 3
127.0.0.1:6379> zrem nosql 002
(integer) 1
127.0.0.1:6379> zcount nosql 0 3
(integer) 2
127.0.0.1:6379> zscore nosql 003
"0"
127.0.0.1:6379> zrangebyscore nosql 0 10
1) "001"
2) "003"
127.0.0.1:6379> zadd nosql 1 003
(integer) 0
127.0.0.1:6379> zadd nosql 1 004
(integer) 1
127.0.0.1:6379> zrangebyscore nosql 0 10
1) "001"
2) "003"
3) "004"
127.0.0.1:6379> zadd nosql 3 005
(integer) 1
127.0.0.1:6379> zadd nosql 2 006
(integer) 1
127.0.0.1:6379> zrangebyscore nosql 0 10
1) "001"
2) "003"
3) "004"
4) "006"
5) "005"

相關命令介紹
zadd  向指定的sorteset中添加1個或多個元素
zrem  從指定的sorteset中刪除1個或多個元素
zcount 查看指定的sorteset中指定分數範圍內的元素數量
zscore 查看指定的sorteset中指定分數的元素
zrangebyscore 查看指定的sorteset中指定分數範圍內的所有元素

6、鍵值相關的命令

127.0.0.1:6379> exists key
(integer) 1
127.0.0.1:6379> exists key1
(integer) 1
127.0.0.1:6379> exists key100
(integer) 0
127.0.0.1:6379> get key
"nihao,hello"
127.0.0.1:6379> get key1
"hi"
127.0.0.1:6379> del key1
(integer) 1
127.0.0.1:6379> get key1
(nil)
127.0.0.1:6379> rename key key0
OK
127.0.0.1:6379> get key
(nil)
127.0.0.1:6379> get key0
"nihao,hello"
127.0.0.1:6379> type key0
string

exists       #確認key是否存在
del           
#刪除key
expire       
#設置Key過期時間(單位秒)
persist     
#移除Key過期時間的配置
rename     
#重命名key
type         
#傳回值的型別

7、Redis服務相關的命令

127.0.0.1:6379> select 0
OK
127.0.0.1:6379> info
# Server
redis_version:3.0.6
redis_git_sha1:00000000
redis_git_dirty:0
redis_build_id:347e3eeef5029f3
redis_mode:standalone
os:Linux 3.10.0-693.el7.x86_64 x86_64
arch_bits:64
multiplexing_api:epoll
gcc_version:4.8.5
process_id:31197
run_id:8b6ec6ad5035f5df0b94454e199511084ac6fb12
tcp_port:6379
uptime_in_seconds:8514
uptime_in_days:0
hz:10
lru_clock:14015928
config_file:/usr/local/redis/redis.conf
-------------------省略N行
127.0.0.1:6379> CONFIG GET 0
(empty list or set)
127.0.0.1:6379> CONFIG GET 15
(empty list or set)

slect           #選擇資料庫(資料庫編號0-15)
quit             
#退出連接
info             
#獲得服務的信息與統計
monitor       
#實時監控
config get   
#獲得服務配置
flushdb       
#刪除當前選擇的資料庫中的key
flushall       
#刪除所有資料庫中的key

8、Redis的發佈與訂閱

Redis發佈與訂閱(pub/sub)是它的一種訊息通信樣式,一方發送信息,一方接收信息。
下圖是三個客戶端同時訂閱同一個頻道

下圖是有新信息發送給頻道1時,就會將訊息發送給訂閱它的三個客戶端

9、Redis事務


Redis事務可以一次執行多條命令

1、發送exec命令前放入佇列快取,結束事務
2、收到exec命令後執行事務操作,如果某一命令執行失敗,其它命令仍可繼續執行
3、一個事務執行的過程中,其它客戶端提交的請求不會被插入到事務執行的命令串列中


一個事務經歷三個階段
  開始事務(命令:multi)
  命令執行
  結束事務(命令:exec)

127.0.0.1:6379> MULTI
OK
127.0.0.1:6379> set key key1
QUEUED
127.0.0.1:6379> get key
QUEUED
127.0.0.1:6379> rename key key001
QUEUED
127.0.0.1:6379> exec
1) OK
2) "key1"
3) OK


10、Redis安全配置


可以通過修改配置檔案設備密碼引數來提高安全性

       #requirepass foobared

去掉註釋#號就可以配置密碼
沒有配置密碼的情況下查詢如下

127.0.0.1:6379> CONFIG GET requirepass
1) "requirepass"
2) ""

配置密碼之後,就需要進行認證

127.0.0.1:6379> CONFIG GET requirepass
(error) NOAUTH Authentication required.
127.0.0.1:6379> AUTH foobared #認證
OK
127.0.0.1:6379> CONFIG GET requirepass
1) "requirepass"
2) "foobared"

11、Redis持久化

Redis持久有兩種方式:Snapshotting(快照),Append-only file(AOF)

Snapshotting(快照)

1、將儲存在記憶體的資料以快照的方式寫入二進制檔案中,如預設dump.rdb中
2、save 900 1 

#900秒內如果超過1個Key被修改,則啟動快照儲存
3、save 300 10 

#300秒內如果超過10個Key被修改,則啟動快照儲存
4、save 60 10000 

#60秒內如果超過10000個Key被修改,則啟動快照儲存


Append-only file(AOF)

1、使用AOF持久時,服務會將每個收到的寫命令通過write函式追加到檔案中(appendonly.aof)
2、AOF持久化儲存方式引數說明
   
appendonly yes  

           #開啟AOF持久化儲存方式
    appendfsync always 

         #收到寫命令後就立即寫入磁盤,效率最差,效果最好
    appendfsync everysec

         #每秒寫入磁盤一次,效率與效果居中
    appendfsync no 

         #完全依賴OS,效率最佳,效果沒法保證

12、Redis 性能測試

自帶相關測試工具

[root@test ~]# redis-benchmark --help
Usage: redis-benchmark [-h ] [-p ] [-c ] [-n [-k ]

-h      Server hostname (default 127.0.0.1)
-p          Server port (default 6379)
-s        Server socket (overrides host and port)
-a      Password for Redis Auth
-c       Number of parallel connections (default 50)
-n      Total number of requests (default 100000)
-d          Data size of SET/GET value in bytes (default 2)
-dbnum        SELECT the specified db number (default 0)
-k       1=keep alive 0=reconnect (default 1)
-r   Use random keys for SET/GET/INCR, random values for SADD
 Using this option the benchmark will expand the string __rand_int__
 inside an argument with a 12 digits number in the specified range
 from 0 to keyspacelen-1. The substitution changes every time a command
 is executed. Default tests use this to hit random keys in the
 specified range.
-P        Pipeline requests. Default 1 (no pipeline).
-q                 Quiet. Just show query/sec values
--csv              Output in CSV format
-l                 Loop. Run the tests forever
-t         Only run the comma separated list of tests. The test
                   names are the same as the ones produced as output.
-I                 Idle mode. Just open N idle connections and wait.

Examples:

Run the benchmark with the default configuration against 127.0.0.1:6379:
  $ redis-benchmark

Use 20 parallel clients, for a total of 100k requests, against 192.168.1.1:
  $ redis-benchmark -h 192.168.1.1 -p 6379 -n 100000 -c 20

Fill 127.0.0.1:6379 with about 1 million keys only using the SET test:
  $ redis-benchmark -t set -n 1000000 -r 100000000

Benchmark 127.0.0.1:6379 for a few commands producing CSV output:
  $ redis-benchmark -t ping,set,get -n 100000 --csv

Benchmark a specific command line:
  $ redis-benchmark -r 10000 -n 10000 eval 'return redis.call("ping")' 0

Fill a list with 10000 random elements:
  $ redis-benchmark -r 10000 -n 10000 lpush mylist __rand_int__

On user specified command lines __rand_int__ is replaced with a random integer
with a range of values selected by the -r option.

實際測試同時執行100萬的請求

[root@test ~]# redis-benchmark -n 1000000 -q
PING_INLINE: 152578.58 requests per second
PING_BULK: 150308.14 requests per second
SET: 143266.47 requests per second
GET: 148632.58 requests per second
INCR: 145857.64 requests per second
LPUSH: 143781.45 requests per second
LPOP: 147819.66 requests per second
SADD: 138350.86 requests per second
SPOP: 134282.27 requests per second
LPUSH (needed to benchmark LRANGE): 141302.81 requests per second
LRANGE_100 (first 100 elements): 146756.67 requests per second
LRANGE_300 (first 300 elements): 148104.27 requests per second
LRANGE_500 (first 450 elements): 152671.75 requests per second
LRANGE_600 (first 600 elements): 148104.27 requests per second
MSET (10 keys): 132731.62 requests per second

13、Redis的備份與恢復

Redis自動備份有兩種方式
第一種是通過dump.rdb檔案實現備份
第二種使用aof檔案實現自動備份

dump.rdb備份
Redis服務預設的自動檔案備份方式(AOF沒有開啟的情況下),在服務啟動時,就會自動從dump.rdb檔案中去加載資料。
具體配置在redis.conf
save 900 1
save 300 10
save 60 10000

也可以手工執行save命令實現手動備份

127.0.0.1:6379> set name key
OK
127.0.0.1:6379> SAVE
OK
127.0.0.1:6379> set name key1
OK
127.0.0.1:6379> BGSAVE
Background saving started

redis快照到dump檔案時,會自動生成dump.rdb的檔案

# The filename where to dump the DB
dbfilename dump.rdb
-rw-r--r-- 1 root root   253 Apr 17 20:17 dump.rdb

SAVE命令表示使用主行程將當前資料庫快照到dump檔案
BGSAVE命令表示,主行程會fork一個子行程來進行快照備份
兩種備份不同之處,前者會阻塞主行程,後者不會。

恢復舉例

# Note that you must specify a directory here, not a file name.
dir /usr/local/redisdata/
備份檔案儲存路徑
127.0.0.1:6379> CONFIG GET dir
1) "dir"
2) "/usr/local/redisdata"
127.0.0.1:6379> set key 001
OK
127.0.0.1:6379> set key1 002
OK
127.0.0.1:6379> set key2 003
OK
127.0.0.1:6379> save
OK

將備份檔案備份到其它目錄

[root@test ~]# ll /usr/local/redisdata/
total 4
-rw-r--r-- 1 root root 49 Apr 17 21:24 dump.rdb
[root@test ~]# date
Tue Apr 17 21:25:38 CST 2018
[root@test ~]# cp ./dump.rdb /tmp/

刪除資料

127.0.0.1:6379> del key1
(integer) 1
127.0.0.1:6379> get key1
(nil)

關閉服務,將原備份檔案拷貝回save備份目錄

[root@test ~]# redis-cli -a foobared shutdown
[root@test ~]# lsof -i :6379
[root@test ~]# cp /tmp/dump.rdb /usr/local/redisdata/
cp: overwrite ‘/usr/local/redisdata/dump.rdb’? y
[root@test ~]# redis-server /usr/local/redis/redis.conf &
[1] 31487

登錄查看資料是否恢復

[root@test ~]# redis-cli -a foobared
127.0.0.1:6379> mget key key1 key2
1) "001"
2) "002"
3) "003"

AOF自動備份
redis服務預設是關閉此項配置

###### APPEND ONLY MODE ##########
appendonly no

# The name of the append only file (default: "appendonly.aof")
appendfilename "appendonly.aof"

# appendfsync always
appendfsync everysec
# appendfsync no

配置檔案的相關引數,前面已經詳細介紹過。
AOF檔案備份,是備份所有的歷史記錄以及執行過的命令,和mysql binlog很相似,在恢復時就是重新執次一次之前執行的命令,需要註意的就是在恢復之前,和資料庫恢復一樣需要手工刪除執行過的del或誤操作的命令。

AOF與dump備份不同
1、aof檔案備份與dump檔案備份不同
2、服務讀取檔案的優先順序不同,會按照以下優先級進行啟動
   
如果只配置AOF,重啟時加載AOF檔案恢復資料
    如果同時 配置了RBD和AOF,啟動是只加載AOF檔案恢復資料
    如果只配置RBD,啟動時將加載dump檔案恢復資料

註意:只要配置了aof,但是沒有aof檔案,這個時候啟動的資料庫會是空的

14、Redis 生產優化介紹

1、記憶體管理優化 

hash-max-ziplist-entries 512
 hash-max-ziplist-value 64
 list-max-ziplist-entries 512
 list-max-ziplist-value 64

 
#list的成員與值都不太大的時候會採用緊湊格式來儲存,相對記憶體開銷也較小

在linux環境運行Redis時,如果系統的記憶體比較小,這個時候自動備份會有可能失敗,需要修改系統的vm.overcommit_memory 引數,這個引數是linux系統的記憶體分配策略
   
0 表示內核將檢查是否有足夠的可用記憶體供應用行程使用;如果有足夠的可用記憶體,記憶體申請允許;否則,記憶體申請失敗,並把錯誤傳回給應用行程。
    1 表示內核允許分配所有的物理記憶體,而不管當前的記憶體狀態如何。
    2 表示內核允許分配超過所有物理記憶體和交換空間總和的記憶體

 Redis官方的說明是,建議將vm.overcommit_memory的值修改為1,可以用下麵幾種方式進行修改:
(1)編輯/etc/sysctl.conf 改vm.overcommit_memory=1,然後sysctl -p 使配置檔案生效
(2)sysctl vm.overcommit_memory=1
 (3)echo 1 > /proc/sys/vm/overcommit_memory

2、記憶體預分配
3、持久化機制

   
定時快照:效率不高,會丟失資料
    AOF:保持資料完整性(一個實體的數量不要太大2G最大)

優化總結
1)根據業務需要選擇合適的資料型別
2)當業務場景不需持久化時就關閉所有持久化方式(採用ssd磁盤來提升效率)
3)不要使用虛擬記憶體的方式,每秒實時寫入AOF
4)不要讓REDIS所在的服務器物理記憶體使用超過記憶體總量的3/5
5)要使用maxmemory
6)大資料量按業務分開使用多個redis實體

15、Redis集群應用

集群是將多個redis實體集中在一起,實現同一業務需求,或者實現高可用與負載均衡

到底有哪些集群方案呢??
1、haproxy+keepalived+redis集群

1)通過redis的配置檔案,實現主從複製、讀寫分離
2)通過haproxy的配置,實現負載均衡,當從故障時也會及時從集群中T除
3)利用keepalived來實現負載的高可用

2、redis官方Sentinel集群管理工具

Redis集群生產環境高可用方案實戰過程

1)sentinel負責對集群中的主從服務監控、提醒和自動故障轉移
2)redis集群負責對外提供服務
關於redis sentinel cluster集群配置可參考

3、Redis Cluster
Redis Cluster是Redis的分佈式解決方案,在Redis 3.0版本正式推出的,有效解決了Redis分佈式方面的需求。當遇到單機記憶體、併發、流量等瓶頸時,可以採用Cluster架構達到負載均衡的目的。

1)官方推薦,毋庸置疑。
2)去中心化,集群最大可增加1000個節點,性能隨節點增加而線性擴展。
3)管理方便,後續可自行增加或摘除節點,移動分槽等等。
4)簡單,易上手。


●編號325,輸入編號直達本文

●輸入m獲取到文章目錄

推薦↓↓↓

Python編程

更多推薦18個技術類公眾微信

涵蓋:程式人生、演算法與資料結構、黑客技術與網絡安全、大資料技術、前端開發、Java、Python、Web開發、安卓開發、iOS開發、C/C++、.NET、Linux、資料庫、運維等。

赞(0)

分享創造快樂