Memcached概念:
Memcached是一個免費開源的,高性能的,具有分布式對象的緩存系統,它可以用來保存一些經常存取的對象或數據,保存的數據像一張巨大的HASH表,該表以Key-value對的方式存在內存中。
官網下載地址: http://www.memcached.org/
運行環境: linux,BSD,windows都可跑
協議理論:http://code.sixapart.com/svn/memcached/trunk/server/doc/protocol.txt (英文)
操作流程:
1、檢查客戶端的請求數據是否在memcached中,如有,直接把請求數據返回,不再對數據庫進行任何操作,路徑操作為①②③⑦。
2、如果請求的數據不在memcached中,就去查數據庫,把從數據庫中獲取的數據返回給客戶端,同時把數據緩存一份到memcached中(memcached客戶端不負責,需要程序明確實現),路徑操作為①②④⑤⑦⑥。
3、每次更新數據庫的同時更新memcached中的數據,保證一致性。
4、當分配給memcached內存空間用完之後,會使用LRU(Least Recently Used,最近最少使用)策略加上到期失效策略,失效數據首先被替換,然後再替換掉最近未使用的數據。
Memcached特征:
協議簡單
它是基於文本行的協議,直接通過telnet在memcached服務器上可進行存取數據操作
基於libevent事件處理
Libevent是一套利用C開發的程序庫,它將BSD系統的kqueue,Linux系統的epoll等事件處理功能封裝成一個接口,與傳統的select相比,提高了性能。
內置的內存管理方式
所有數據都保存在內存中,存取數據比硬盤快,當內存滿後,通過LRU算法自動刪除不使用的緩存,但沒有考慮數據的容災問題,重啟服務,所有數據會丟失。
分布式
各個memcached服務器之間互不通信,各自獨立存取數據,不共享任何信息。服務器並不具有分布式功能,分布式部署取決於memcache客戶端。
Memcached安裝與啟動:
安裝memcached需要先安裝libevent
tar zxvf libevent-1.4.14b-stable.tar.gz cd libevent-1.4.14b-stable ./configure make && make install
tar zxvf memcached-1.2.5.tar.tar cd memcached-1.2.5 ./configure –prefix=/usr/local/memcached make && make install
-P是表示使用TCP,默認端口為11211 -d表示後台啟動一個守護進程(daemon) -u表示指定root用戶啟動,默認不能用root用戶啟動 -P表示進程的pid存放地點,此處“p”為大寫“P” -l 後面跟IP地址,手工指定監聽IP地址,默認所有IP都在監聽 -m後面跟分配內存大小,以MB為單位,默認為64M -c最大運行並發連接數,默認為1024 -f 塊大小增長因子,默認是1.25 -M 內存耗盡時返回錯誤,而不是刪除項,即不用LRU算法
在64位系統中,會報libevent-1.4.so.2文件無法找到,解決辦法是把32位目錄裡的同名文件鏈接至64位目錄中,即像windows那樣建立快捷方式。
Shell > /usr/local/lib/libevent-1.4.so.2 /usr/lib64/libevent-1.4.so.2
啟動後如果發現沒有端口在監聽,是因為命動命令時帶pid參數的“p”是大寫“P”,你可能寫成小寫了。
Set:添加一個新條目到memcached或是用新的數據替換替換掉已存在的條目 Add:當KEY不存在的情況下,它向memcached存數據,否則,返回NOT_STORED響應 Replace:當KEY存在的情況下,它才會向memcached存數據,否則返回NOT_STORED響應 Cas:改變一個存在的KEY值 ,但它還帶了檢查的功能 Append:在這個值後面插入新值 Prepend:在這個值前面插入新值
Get:取單個值 ,從緩存中返回數據時,將在第一行得到KEY的名字,flag的值和返回的value長度,真正的數據在第二行,最後返回END,如KEY不存在,第一行就直接返回END Get_multi:一次性取多個值
Delete
telnet 127.0.0.1 11211
在入數據
Set liuguohua 0 0 21 369369.blog.51cto.com
取數據
Get liuguohua
Memcached的內存算法:
Memcached利用slab allocation機制來分配和管理內存,它按照預先規定的大小,將分配的內存分割成特定長度的內存塊,再把尺寸相同的內存塊分成組,數據在存放時,根據鍵值 大小去匹配slab大小,找就近的slab存放,所以存在空間浪費現象。
傳統的內存管理方式是,使用完通過malloc分配的內存後通過free來回收內存,這種方式容易產生內存碎片並降低操作系統對內存的管理效率。
Memcached的緩存策略:
Memcached的緩存策略是LRU(最近最少使用)加上到期失效策略。當你在memcached內存儲數據項時,你有可能會指定它在緩存的失效時間, 默認為永久。當memcached服務器用完分配的內時,失效的數據被首先替換,然後也是最近未使用的數據。在LRU中,memcached使用的是一種 Lazy Expiration策略,自己不會監控存入的key/vlue對是否過期,而是在獲取key值時查看記錄的時間戳,檢查key/value對空間是否過 期,這樣可減輕服務器的負載。
Memcached的分布式算法:
當向memcached集群存入/取出key/value時,memcached客戶端程序根據一定的算法計算存入哪台服務器,然後再把key/value值存到此服務器中。也就是說,存取數據分二步走,第一步,選擇服務器,第二步存取數據。
分布式算法(Consistent Hashing):
選擇服務器算法有兩種,一種是根據余數來計算分布,另一種是根據散列算法來計算分布。
余數算法:
先求得鍵的整數散列值,再除以服務器台數,根據余數確定存取服務器,這種方法計算簡單,高效,但在memcached服務器增加或減少時,幾乎所有的緩存都會失效。
散列算法:
先算出memcached服務器的散列值,並將其分布到0到2的32次方的圓上,然後用同樣的方法算出存儲數據的鍵的散列值並映射至圓上,最後從數據映射 到的位置開始順時針查找,將數據保存到查找到的第一個服務器上,如果超過2的32次方,依然找不到服務器,就將數據保存到第一台memcached服務器 上。如果添加了一台memcached服務器,只在圓上增加服務器的逆時針方向的第一台服務器上的鍵會受到影響。
Memcache的管理與性能監控:
可以通過命令行直接管理與監控也可通過nagios,cacti等web軟件進行監控
命令行:
telnet 127.0.0.1 1211 //如果在啟動時指定了IP及端口號,這裡要作相應改動 連接成功後命令 Stats:統計memcached的各種信息 Stats reset:重新統計數據 Stats slabs,顯示slabs信息,可以詳細看到數據的分段存儲情況 Stats items:顯示slab中的item數目 Stats cachedump 1 0:列出slabs第一段裡存的KEY值 Set|get:保存或獲取數據 STAT evictions 0:表示要騰出新空間給新的item而移動的合法item數目
./Memcached-tool 127.0.0.1:11211 ./Memcached-tool 127.0.0.1:11211 display
Web軟件:
Memcache.php Nagios插件 Cacti模塊