一、Memcached Memcached 是一個高性能的分散式記憶體對象緩存系統，用於動態Web應用以減輕資料庫負載。它通過在記憶體中緩存數據和對象來減少讀取資料庫的次數，從而提高動態、資料庫驅動網站的速度。Memcached基於一個存儲鍵/值對的hashmap。其守護進程（daemon ）是用C寫的 ...
一、Memcached
Memcached 是一個高性能的分散式記憶體對象緩存系統，用於動態Web應用以減輕資料庫負載。它通過在記憶體中緩存數據和對象來減少讀取資料庫的次數，從而提高動態、資料庫驅動網站的速度。Memcached基於一個存儲鍵/值對的hashmap。其守護進程（daemon ）是用C寫的，但是客戶端可以用任何語言來編寫，並通過memcached協議與守護進程通信。
Memcached安裝和基本使用
Memcached安裝：
wget http://memcached.org/latest tar -zxvf memcached-1.x.x.tar.gz cd memcached-1.x.x ./configure && make && make test && sudo make install PS：依賴libevent yum install libevent-devel apt-get install libevent-dev
啟動Memcached
memcached -d -m 10 -u root -l 10.211.55.4 -p 12000 -c 256 -P /tmp/memcached.pid 參數說明: -d 是啟動一個守護進程 -m 是分配給Memcache使用的記憶體數量，單位是MB -u 是運行Memcache的用戶 -l 是監聽的伺服器IP地址 -p 是設置Memcache監聽的埠,最好是1024以上的埠 -c 選項是最大運行的併發連接數，預設是1024，按照你伺服器的負載量來設定 -P 是設置保存Memcache的pid文件
Memcached命令
存儲命令: set/add/replace/append/prepend/cas 獲取命令: get/gets 其他命令: delete/stats..
Python操作Memcached
安裝API
python操作Memcached使用Python-memcached模塊
下載安裝：https://pypi.python.org/pypi/python-memcached
1、第一次操作
import memcache mc = memcache.Client(['10.211.55.4:12000'], debug=True) mc.set("foo", "bar") ret = mc.get('foo') print ret
#Ps：debug = True 表示運行出現錯誤時，現實錯誤信息，上線後移除該參數。
2、天生支持群集
python-memcached模塊原生支持集群操作，其原理是在記憶體維護一個主機列表，且集群中主機的權重值和主機在列表中重覆出現的次數成正比
主機 權重 1.1.1.1 1 1.1.1.2 2 1.1.1.3 1 那麼在記憶體中主機列表為： host_list = ["1.1.1.1", "1.1.1.2", "1.1.1.2", "1.1.1.3", ]
如果用戶根據如果要在記憶體中創建一個鍵值對（如：k1 = "v1"），那麼要執行一下步驟：
- 根據演算法將 k1 轉換成一個數字
- 將數字和主機列表長度求餘數，得到一個值 N（ 0 <= N < 列表長度 ）
- 在主機列表中根據 第2步得到的值為索引獲取主機，例如：host_list[N]
- 連接 將第3步中獲取的主機，將 k1 = "v1" 放置在該伺服器的記憶體中
代碼實現如下：
mc = memcache.Client([('1.1.1.1:12000', 1), ('1.1.1.2:12000', 2), ('1.1.1.3:12000', 1)], debug=True) mc.set('k1', 'v1')
3、add
添加一條鍵值對，如果已經存在的 key，重覆執行add操作異常
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client(['10.211.55.4:12000'], debug=True) mc.add('k1', 'v1') # mc.add('k1', 'v2') # 報錯，對已經存在的key重覆添加，失敗！！！
4、replace
replace 修改某個key的值，如果key不存在，則異常
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client(['10.211.55.4:12000'], debug=True) # 如果memcache中存在kkkk，則替換成功，否則一場 mc.replace('kkkk','999')
5、set 和 set_multi
set 設置一個鍵值對，如果key不存在，則創建，如果key存在，則修改
set_multi 設置多個鍵值對，如果key不存在，則創建，如果key存在，則修改
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client(['10.211.55.4:12000'], debug=True) mc.set('key0', 'wupeiqi') mc.set_multi({'key1': 'val1', 'key2': 'val2'})
6、delete 和 delete_multi
delete 在Memcached中刪除指定的一個鍵值對
delete_multi 在Memcached中刪除指定的多個鍵值對
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client(['10.211.55.4:12000'], debug=True) mc.delete('key0') mc.delete_multi(['key1', 'key2'])
7、get 和 get_multi
get 獲取一個鍵值對
get_multi 獲取多一個鍵值對
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client(['10.211.55.4:12000'], debug=True) val = mc.get('key0') item_dict = mc.get_multi(["key1", "key2", "key3"])
8、append 和 prepend
append 修改指定key的值，在該值 後面 追加內容
prepend 修改指定key的值，在該值 前面 插入內容
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client(['10.211.55.4:12000'], debug=True) # k1 = "v1" mc.append('k1', 'after') # k1 = "v1after" mc.prepend('k1', 'before') # k1 = "beforev1after"
9、decr 和 incr
incr 自增，將Memcached中的某一個值增加 N （ N預設為1 ）
decr 自減，將Memcached中的某一個值減少 N （ N預設為1 ）
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client(['10.211.55.4:12000'], debug=True) mc.set('k1', '777') mc.incr('k1') # k1 = 778 mc.incr('k1', 10) # k1 = 788 mc.decr('k1') # k1 = 787 mc.decr('k1', 10) # k1 = 777
10、gets 和 cas
如商城商品剩餘個數，假設改值保存在memcache中，product_count = 900
A用戶刷新頁面從memcache中讀取到product_count = 900
B用戶刷新頁面從memcache中讀取到product_count = 900
如果A、B用戶均購買商品
A用戶修改商品剩餘個數 product_count＝899
B用戶修改商品剩餘個數 product_count＝899
如此一來緩存內的數據便不在正確，兩個用戶購買商品後，商品剩餘還是 899
如果使用python的set和get來操作以上過程，那麼程式就會如上述所示情況！
如果想要避免此情況的發生，只要使用 gets 和 cas 即可，如：
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client(['10.211.55.4:12000'], debug=True, cache_cas=True) v = mc.gets('product_count') # ... # 如果有人在gets之後和cas之前修改了product_count，那麼，下麵的設置將會執行失敗，剖出異常，從而避免非正常數據的產生 mc.cas('product_count', "899")
Ps：本質上每次執行gets時，會從memcache中獲取一個自增的數字，通過cas去修改gets的值時，會攜帶之前獲取的自增值和memcache中的自增值進行比較，如果相等，則可以提交，如果不想等，那表示在gets和cas執行之間，又有其他人執行了gets（獲取了緩衝的指定值）， 如此一來有可能出現非正常數據，則不允許修改。
二、Redis
redis是一個key-value存儲系統。和Memcached類似，它支持存儲的value類型相對更多，包括string(字元串)、list(鏈表)、set(集合)、zset(sorted set --有序集合)和hash（哈希類型）。這些數據類型都支持push/pop、add/remove及取交集並集和差集及更豐富的操作，而且這些操作都是原子性的。在此基礎上，redis支持各種不同方式的排序。與memcached一樣，為了保證效率，數據都是緩存在記憶體中。區別的是redis會周期性的把更新的數據寫入磁碟或者把修改操作寫入追加的記錄文件，並且在此基礎上實現了master-slave(主從)同步。
1、Redis安裝和基本使用
wget http://download.redis.io/releases/redis-3.0.6.tar.gz tar xzf redis-3.0.6.tar.gz cd redis-3.0.6 make
啟動服務端以及客戶端
src/redis-server #啟動服務 src/redis-cli #啟動客戶端 redis> set foo bar OK redis> get foo "bar"
2、Python操作Redis
sudo pip install redis or sudo easy_install redis or 源碼安裝 詳見：https://github.com/WoLpH/redis-py
API使用
redis-py 的API的使用可以分類為：
- 連接方式
- 連接池
- 操作
- String 操作
- Hash 操作
- List 操作
- Set 操作
- Sort Set 操作
- 管道
- 發佈訂閱
操作模式
redis-py提供兩個類Redis和StrictRedis用於實現Redis的命令，StrictRedis用於實現大部分官方的命令，並使用官方的語法和命令，Redis是StrictRedis的子類，用於向後相容舊版本的redis-py。
#!/usr/bin/env python # -*- coding:utf-8 -*- import redis r = redis.Redis(host='10.211.55.4', port=6379) r.set('foo', 'Bar') print r.get('foo')
連接池
redis-py使用connection pool來管理對一個redis server的所有連接，避免每次建立、釋放連接的開銷。預設，每個Redis實例都會維護一個自己的連接池。可以直接建立一個連接池，然後作為參數Redis，這樣就可以實現多個Redis實例共用一個連接池。
#!/usr/bin/env python # -*- coding:utf-8 -*- import redis pool = redis.ConnectionPool(host='10.211.55.4', port=6379) r = redis.Redis(connection_pool=pool) r.set('foo', 'Bar') print r.get('foo')
3、String操作
String操作，redis中的String在在記憶體中按照一個name對應一個value來存儲。如圖：
set(name, value, ex=None, px=None, nx=False, xx=False)
在Redis中設置值，預設，不存在則創建，存在則修改
參數：
ex，過期時間（秒）
px，過期時間（毫秒）
nx，如果設置為True，則只有name不存在時，當前set操作才執行
xx，如果設置為True，則只有name存在時，崗前set操作才執行
setnx(name, value)
設置值，只有name不存在時，執行設置操作（添加）
setex(name, value, time)
# 設置值 # 參數： # time，過期時間（數字秒 或 timedelta對象）
psetex(name, time_ms, value)
# 設置值 # 參數： # time_ms，過期時間（數字毫秒 或 timedelta對象
mset(*args, **kwargs)
批量設置值 如： mset(k1='v1', k2='v2') 或 mget({'k1': 'v1', 'k2': 'v2'})
get(name)
獲取值
mget(keys, *args)
批量獲取 如： mget('ylr', 'wupeiqi') 或 r.mget(['ylr', 'wupeiqi'])
getset(name, value)
設置新值並獲取原來的值
getrange(key, start, end)
# 獲取子序列（根據位元組獲取，非字元） # 參數： # name，Redis 的 name # start，起始位置（位元組） # end，結束位置（位元組） # 如： "武沛齊" ，0-3表示 "武"
setrange(name, offset, value)
# 修改字元串內容，從指定字元串索引開始向後替換（新值太長時，則向後添加） # 參數： # offset，字元串的索引，位元組（一個漢字三個位元組） # value，要設置的值
setbit(name, offset, value)
# 對name對應值的二進位表示的位進行操作 # 參數： # name，redis的name # offset，位的索引（將值變換成二進位後再進行索引） # value，值只能是 1 或 0 # 註：如果在Redis中有一個對應： n1 = "foo"， 那麼字元串foo的二進位表示為：01100110 01101111 01101111 所以，如果執行 setbit('n1', 7, 1)，則就會將第7位設置為1， 那麼最終二進位則變成 01100111 01101111 01101111，即："goo" # 擴展，轉換二進位表示： # source = "武沛齊" source = "foo" for i in source: num = ord(i) print bin(num).replace('b','') 特別的，如果source是漢字 "武沛齊"怎麼辦？ 答：對於utf-8，每一個漢字占 3 個位元組，那麼 "武沛齊" 則有 9個位元組 對於漢字，for迴圈時候會按照 位元組 迭代，那麼在迭代時，將每一個位元組轉換 十進位數，然後再將十進位數轉換成二進位 11100110 10101101 10100110 11100110 10110010 10011011 11101001 10111101 10010000 -------------------------- ----------------------------- ----------------------------- 武 沛 齊
getbit(name, offset)
# 獲取name對應的值的二進位表示中的某位的值 （0或1）
bitcount(key, start=None, end=None)
# 獲取name對應的值的二進位表示中 1 的個數 # 參數： # key，Redis的name # start，位起始位置 # end，位結束位置
bitop(operation, dest, *keys)
# 獲取多個值，並將值做位運算，將最後的結果保存至新的name對應的值 # 參數： # operation,AND（並） 、 OR（或） 、 NOT（非） 、 XOR（異或） # dest, 新的Redis的name # *keys,要查找的Redis的name # 如： bitop("AND", 'new_name', 'n1', 'n2', 'n3') # 獲取Redis中n1,n2,n3對應的值，然後講所有的值做位運算（求並集），然後將結果保存 new_name 對應的值中
strlen(name)
# 返回name對應值的位元組長度（一個漢字3個位元組）
incr(self, name, amount=1)
# 自增 name對應的值，當name不存在時，則創建name＝amount，否則，則自增。 # 參數： # name,Redis的name # amount,自增數（必須是整數） # 註：同incrby
incrbyfloat(self, name, amount=1.0)
# 自增 name對應的值，當name不存在時，則創建name＝amount，否則，則自增。 # 參數： # name,Redis的name # amount,自增數（浮點型）
decr(self, name, amount=1)
# 自減 name對應的值，當name不存在時，則創建name＝amount，否則，則自減。 # 參數： # name,Redis的name # amount,自減數（整數）
append(key, value)
# 在redis name對應的值後面追加內容 # 參數： key, redis的name value, 要追加的字元串
4、hash操作
Hash操作，redis中Hash在記憶體中的存儲格式如下圖：
hset(name, key, value) # name對應的hash中設置一個鍵值對（不存在，則創建；否則，修改） # 參數： # name，redis的name # key，name對應的hash中的key # value，name對應的hash中的value # 註： # hsetnx(name, key, value),當name對應的hash中不存在當前key時則創建（相當於添加）
hmset(name, mapping) # 在name對應的hash中批量設置鍵值對 # 參數： # name，redis的name # mapping，字典，如：{'k1':'v1', 'k2': 'v2'} # 如： # r.hmset('xx', {'k1':'v1', 'k2': 'v2'})
hget(name,key) # 在name對應的hash中獲取根據key獲取value
hmget(name, keys, *args) # 在name對應的hash中獲取多個key的值 # 參數： # name，reids對應的name # keys，要獲取key集合，如：['k1', 'k2', 'k3'] # *args，要獲取的key，如：k1,k2,k3 # 如： # r.mget('xx', ['k1', 'k2']) # 或 # print r.hmget('xx', 'k1', 'k2')
hgetall(name)
獲取name對應hash的所有鍵值
hlen(name) # 獲取name對應的hash中鍵值對的個數
hkeys(name) # 獲取name對應的hash中所有的key的值
hvals(name) # 獲取name對應的hash中所有的value的值
hexists(name, key) # 檢查name對應的hash是否存在當前傳入的key
hdel(name,*keys) # 將name對應的hash中指定key的鍵值對刪除
hincrby(name, key, amount=1) # 自增name對應的hash中的指定key的值，不存在則創建key=amount # 參數： # name，redis中的name # key， hash對應的key # amount，自增數（整數）
hincrbyfloat(name, key, amount=1.0) # 自增name對應的hash中的指定key的值，不存在則創建key=amount # 參數： # name，redis中的name # key， hash對應的key # amount，自增數（浮點數） # 自增name對應的hash中的指定key的值，不存在則創建key=amount
hscan(name, cursor=0, match=None, count=None) # 增量式迭代獲取，對於數據大的數據非常有用，hscan可以實現分片的獲取數據，並非一次性將數據全部獲取完，從而放置記憶體被撐爆 # 參數： # name，redis的name # cursor，游標（基於游標分批取獲取數據） # match，匹配指定key，預設None 表示所有的key # count，每次分片最少獲取個數，預設None表示採用Redis的預設分片個數 # 如： # 第一次：cursor1, data1 = r.hscan('xx', cursor=0, match=None, count=None) # 第二次：cursor2, data1 = r.hscan('xx', cursor=cursor1, match=None, count=None) # ... # 直到返回值cursor的值為0時，表示數據已經通過分片獲取完畢
hscan_iter(name, match=None, count=None) # 利用yield封裝hscan創建生成器，實現分批去redis中獲取數據 # 參數： # match，匹配指定key，預設None 表示所有的key # count，每次分片最少獲取個數，預設None表示採用Redis的預設分片個數 # 如： # for item in r.hscan_iter('xx'): # print item
5、List操作，redis中的List在在記憶體中按照一個name對應一個List來存儲。如圖：
lpush(name,values) # 在name對應的list中添加元素，每個新的元素都添加到列表的最左邊 # 如： # r.lpush('oo', 11,22,33) # 保存順序為: 33,22,11 # 擴展： # rpush(name, values) 表示從右向左操作
lpushx(name,value)
# 在name對應的list中添加元素，只有name已經存在時，值添加到列表的最左邊 # 更多： # rpushx(name, value) 表示從右向左操作
llen(name) # name對應的list元素的個數
linsert(name, where, refvalue, value)) # 在name對應的列表的某一個值前或後插入一個新值 # 參數： # name，redis的name # where，BEFORE或AFTER # refvalue，標桿值，即：在它前後插入數據 # value，要插入的數據
lset(name, index, value) # 對name對應的list中的某一個索引位置重新賦值 # 參數： # name，redis的name # index，list的索引位置 # value，要設置的值
lrem(name, value, num) # 在name對應的list中刪除指定的值 # 參數： # name，redis的name # value，要刪除的值 # num， num=0，刪除列表中所有的指定值； # num=2,從前到後，刪除2個； # num=-2,從後向前，刪除2個
lpop(name) # 在name對應的列表的左側獲取第一個元素併在列表中移除，返回值則是第一個元素 # 更多： # rpop(name) 表示從右向左操作
lindex(name, index)
在name對應的列表中根據索引獲取列表元素
lrange(name, start, end) # 在name對應的列表分片獲取數據 # 參數： # name，redis的name # start，索引的起始位置 # end，索引結束位置
ltrim(name, start, end) # 在name對應的列表中移除沒有在start-end索引之間的值 # 參數： # name，redis的name # start，索引的起始位置 # end，索引結束位置
rpoplpush(src, dst) # 從一個列表取出最右邊的元素，同時將其添加至另一個列表的最左邊 # 參數： # src，要取數據的列表的name # dst，要添加數據的列表的name
blpop(keys, timeout) # 將多個列表排列，按照從左到右去pop對應列表的元素 # 參數： # keys，redis的name的集合 # timeout，超時時間，當元素所有列表的元素獲取完之後，阻塞等待列表內有數據的時間（秒）, 0 表示永遠阻塞 # 更多： # r.brpop(keys, timeout)，從右向左獲取數據
brpoplpush(src, dst, timeout=0) # 從一個列表的右側移除一個元素並將其添加到另一個列表的左側 # 參數： # src，取出並要移除元素的列表對應的name # dst，要插入元素的列表對應的name # timeout，當src對應的列表中沒有數據時，阻塞等待其有數據的超時時間（秒），0 表示永遠阻塞
自定義增量迭代 # 由於redis類庫中沒有提供對列表元素的增量迭代，如果想要迴圈name對應的列表的所有元素，那麼就需要： # 1、獲取name對應的所有列表 # 2、迴圈列表 # 但是，如果列表非常大，那麼就有可能在第一步時就將程式的內容撐爆，所有有必要自定義一個增量迭代的功能： def list_iter(name): """ 自定義redis列表增量迭代 :param name: redis中的name，即：迭代name對應的列表 :return: yield 返回 列表元素 """ list_count = r.llen(name) for index in xrange(list_count): yield r.lindex(name, index) # 使用 for item in list_iter('pp'): print item
6、Set操作，Set集合就是不允許重覆的列表
sadd(name,values) # name對應的集合中添加元素
scard(name)
獲取name對應的集合中元素個數
sdiff(keys, *args)
在第一個name對應的集合中且不在其他name對應的集合的元素集合
sdiffstore(dest, keys, *args) # 獲取第一個name對應的集合中且不在其他name對應的集合，再將其新加入到dest對應的集合中
sinter(keys, *args) # 獲取多一個name對應集合的並集
sinterstore(dest, keys, *args) # 獲取多一個name對應集合的並集，再講其加入到dest對應的集合中
sismember(name, value) # 檢查value是否是name對應的集合的成員
smembers(name) # 獲取name對應的集合的所有成員
smove(src, dst, value) # 將某個成員從一個集合中移動到另外一個集合
spop(name) # 從集合的右側（尾部）移除一個成員，並將其返回
srandmember(name, numbers) # 從name對應的集合中隨機獲取 numbers 個元素
srem(name, values) # 在name對應的集合中刪除某些值
sunion(keys, *args) # 獲取多一個name對應的集合的並集
sunionstore(dest,keys, *args) # 獲取多一個name對應的集合的並集，並將結果保存到dest對應的集合中
sscan(name, cursor=0, match=None, count=None) sscan_iter(name, match=None, count=None) # 同字元串的操作，用於增量迭代分批獲取元素，避免記憶體消耗太大
7、有序集合，在集合的基礎上，為每元素排序；元素的排序需要根據另外一個值來進行比較，所以，對於有序集合，每一個元素有兩個值，即：值和分數，分數專門用來做排序。
zadd(name, *args, **kwargs) # 在name對應的有序集合中添加元素 # 如： # zadd('zz', 'n1', 1, 'n2', 2) # 或 # zadd('zz', n1=11, n2=22)
zcard(name) # 獲取name對應的有序集合元素的數量
zcount(name, min, max) # 獲取name對應的有序集合中分數 在 [min,max] 之間的個數
zincrby(name, value, amount) # 自增name對應的有序集合的 name 對應的分數
r.zrange( name, start, end, desc=False, withscores=False, score_cast_func=float) # 按照索引範圍獲取name對應的有序集合的元素 # 參數： # name，redis的name # start，有序集合索引起始位置（非分數） # end，有序集合索引結束位置（非分數） # desc，排序規則，預設按照分數從小到大排序 # withscores，是否獲取元素的分數，預設只獲取元素的值 # score_cast_func，對分數進行數據轉換的函數 # 更多： # 從大到小排序 # zrevrange(name, start, end, withscores=False, score_cast_func=float) # 按照分數範圍獲取name對應的有序集合的元素 # zrangebyscore(name, min, max, start=None, num=None, withscores=False, score_cast_func=float) # 從大到小排序 # zrevrangebyscore(name, max, min, start=None, num=None, withscores=False, score_cast_func=float)
zrank(name, value) # 獲取某個值在 name對應的有序集合中的排行（從 0 開始） # 更多： # zrevrank(name, value)，從大到小排序
zrangebylex(name, min, max, start=None, num=None) # 當有序集合的所有成員都具有相同的分值時，有序集合的元素會根據成員的 值 （lexicographical ordering）來進行排序，而這個命令則可以返回給定的有序集合鍵 key 中， 元素的值介於 min 和 max 之間的成員 # 對集合中的每個成員進行逐個位元組的對比（byte-by-byte compare）， 並按照從低到高的順序， 返回排序後的集合成員。 如果兩個字元串有一部分內容是相同的話， 那麼命令會認為較長的字元串比較短的字元串要大 # 參數： # name，redis的name # min，左區間（值）。 + 表示正無限； - 表示負無限； ( 表示開區間； [ 則表示閉區間 # min，右區間（值） # start，對結果進行分片處理，索引位置 # num，對結果進行分片處理，索引後面的num個元素 # 如： # ZADD myzset 0 aa 0 ba 0 ca 0 da 0 ea 0 fa 0 ga # r.zrangebylex('myzset', "-", "[ca") 結果為：['aa', 'ba', 'ca'] # 更多： # 從大到小排序 # zrevrangebylex(name, max, min, start=None, num=None)
zrem(name, values) # 刪除name對應的有序集合中值是values的成員 # 如：zrem('zz', ['s1', 's2'])
zremrangebyrank(name, min, max) # 根據排行範圍刪除
zremrangebyscore(name, min, max) # 根據分數範圍刪除
zremrangebylex(name, min, max) # 根據值返回刪除
zscore(name, value) # 獲取name對應有序集合中 value 對應的分數
zinterstore(dest, keys, aggregate=None) # 獲取兩個有序集合的交集，如果遇到相同值不同分數，則按照aggregate進行操作 # aggregate的值為: SUM MIN MAX
zunionstore(dest, keys, aggregate=None) #
