歡迎光臨
每天分享高質量文章

Memcache/Redis集群管理探索與實現:美圖開源PaaS平臺資源網關

導讀:本文作者深入瞭解高可用架構發佈的360的pika解讀後,發覺美圖團隊此前開源的twemproxy組件有更多先進的優勢,特國慶節總結了相關技術的解讀,全面介紹相關的系統服務體系及眾多強大的功能。作為互聯網的從業人士,有興趣瞭解Redis及 Memcached的高階使用的,可以詳細閱讀本文。



林添毅,美圖技術經理, 主要負責 NoSQL/訊息佇列/中間件和區塊鏈基礎服務相關研發。對分佈式快取和高可用架構設計方面有較為深入地研究,帶領團隊完成了美圖快取以及訊息佇列服務化。在加入美圖之前,曾就職於新浪微博架構平臺從事基礎服務的研發。

摘要

美圖在 2017 年下半年開始計劃做 Redis/Memcached 資源 PaaS 平臺,而 PaaS 化之後面臨一個問題是如何實現資源縮容/擴容對業務無感,為瞭解決這個問題,美圖技術團隊於 17 年 11 月引入 twemproxy 作為資源網關。

但是長期的實踐中,其開源版本不能完全適應美圖的實際情況,其主要存在單執行緒模型無法利用多核,性能不佳;配置無法在線 Reload ;Redis 不支持主從樣式;無延時指標等問題,所以美圖技術團隊對其進行了相應的改造。我們基於之上實現了多行程以及配置在線更新的功能,同時增加了一些延時的相關監控指標。

本文將為大家詳細講解 twemproxy 實現以及相應地改造,希望能給其他的技術團隊提供一些可以借鑒的經驗。

為什麼要選擇 twemproxy

twemproxy 是一款由 twitter 開源的 Redis/Memcached 代理,主要標的是減少後端資源的連接數以及為快取橫向擴展能力。 twemproxy 支持多種 hash 分片演算法,同時具備失敗節點自動剔除的功能。除此之外,其他比較成熟的開源解決方案還有 codis,codis 具備在線的 auto-scale 以及友好的後臺管理,但整體的功能更接近於 Redis Cluster,而不是代理。美圖這邊需要的是一個 Redis 和 Memcached 協議類 PaaS 服務的代理(網關),所以我們最終選擇了 twemproxy。 

twemproxy 實現

twemproxy 主要的功能是解析用戶請求後轉發到後端的快取資源,成功後在把響應轉發回客戶端。 

代碼實現的核心是三種連接物件: 

  1. proxy connection, 用來監聽用戶建立連接的請求,建立連接成功後會對應產生一個客戶端連接;

  2. client connection,由建連成功後產生,用戶讀寫資料都是通過 client;connection 解析請求後,根據 key 和哈希規則選擇一個 server 進行轉發;

  3. server connection,轉發用戶請求到快取資源並接收和解析響應資料轉回 client connection,client connection 將響應傳回到用戶。

三種連接的資料流向如下圖:

(上圖的 client connection 之所以沒有 imsgq 是因為請求解析完可以直接進入 server 的 imsgq)

  1. 用戶通過 proxy connection 建立連接,產生一個 client connection;

  2. client connection 開始讀取用戶的請求資料,並將完整的請求根據 key 和設置的哈希規則選擇 server, 然後將這個請求存放到 server 的 imsgq;

  3. 接著 server connection 發送 imsgq 請求到遠程資源,發送完成之後(寫 tcp buffer) 就會將 msg 從 imsgq 遷移到 omsgq,響應回來之後從 omsgq 佇列裡面找到這個對應的 msg 以及 client connection;

  4. 最後將響應內容放到 client connection 的 omsgq,由 client connection 將資料發送回客戶端。

上面提到的用戶請求和資源響應的資料都是在解析之後放到記憶體的 buf 裡面,在 client 和 server 兩種連接的內部流轉也只是指標的拷貝(官網 README 裡面提到的 Zero Copy)。這也是 twemproxy 單執行緒模型在小包場景能夠達到 10w qps 的原因之一,幾乎不拷貝記憶體。

但對於我們來說,當前開源版本存在幾個問題: 

  1. 單執行緒模型無法利用多核,性能不夠好,極端情況下代理和資源需要 1:1 部署; 

  2. 配置無法在線 Reload,twitter 內部版本應該是支持的,單元測試裡面有針對 reload 的 case,PaaS 場景需要不斷更新配置; 

  3. Redis 不支持主從樣式(Redis 在作為快取的場景下確實沒必要使用主從),但部分場景需要; 

  4. 資料指標過少,延時指標完全沒有。

多行程版本

針對以上的幾個問題,美圖的開源版本都做了一些修改,最核心的功能是多行程和配置在線 reload。改造後整體行程模型類似 Nginx, 簡單示意圖如下: 

master 的功能就是管理 worker 行程,不接收和處理用戶請求。如果 worker 行程異常退出,那麼 master 則會自動拉起新的行程來替代掛掉的老行程。除此之外,master 還會接收來自用戶的幾種信號: 

  • SIGHUP, 重新加載新配置 

  • SIGTTIN,提高日誌級別, 級別越高日誌越詳細 

  • SIGTTOU,降低日誌級別,級別越低日誌越少 

  • SIGUSR1,重新打開日誌檔案 

  • SIGTERM,優雅退出,等到一段時間後退出 

  • SIGINT,強制退出 

同時還增加了幾個全域性配置: 

除了worker_shutdown_timeout其他幾個配置應該比較好理解。worker_shutdown_timeout 是配置老 worker 在收到退出信號後多長時間退出。這個配置是跟多行程實現相關的引數,我們是通過啟動新行程替代老行程的方式來實現配置以及行程數目的在線修改,所以這個配置就是用來指定老行程的保留時間。

reuse port

在 reuse port 之前,多執行緒/行程服務監聽建連請求一般有兩種方式: 

  1. 由一個執行緒負責接收所有的新連接,其他執行緒服務只負責建立連接之後的處理。這種方式的問題是在短連接場景下,這個 accept 執行緒很容易成為瓶頸(單核我們這邊測試一般是在 4w+/s 左右); 

  2. 所有的執行緒/行程都同時 accept 同一個監聽的檔案句柄。 這種方式的問題是在高負載的場景下,不同執行緒/行程的喚醒會不均勻,另外會有驚群的效果(accept/epoll 在新版本內核中也有解決驚群問題)。 

reuse port 的主要作用就是允許多個 socket 同時監聽同一個端口,同時不會存在建立連接不均勻的問題。 使用 reuse port 也相當簡單,只需要把監聽通過一個端口的 socket 都設置上 reuse port 標識即可。 

雖然 reuse port 是在 linux 3.9 才被合併進來,但有 backport 到更早之前的版本(至少我們在使用的 2.6.32 是有的),很多博客在這點上有些誤導。另外,在 reload 時候也不能簡單將老的監聽關閉,會導致 tcp backlog 裡面這些三次握手成功但未 accept 的連接丟失,業務在這些連接上發送資料則會收到 rst 包。

我們解決這個問題的方式是讓監聽連接都在 master 行程上面創建和維護,worker 行程只是在 fork 之後直接繼承監聽的連接,所以在 reload 的時候 master 就可以將老 worker 裡面的監聽連接遷移到新的 worker, 來保證 tcp backlog 裡面的資料不會丟失。

具體代碼見: nc_process.c#L172, 這種方式能夠在行程數不變或者增多的場景下保證 backlog 裡面的資料不會丟,行程數縮減時還是會丟失一些。 

Redis 主從樣式

在原生的 twemproxy 裡面是不支持 Redis 主從樣式的,這個應該主要是因為 twemproxy 把 Redis/Memcached 當做是快取而不是儲存,所以這種主從結構實際上是沒有必要的,運維也比較簡單。但是對於我們內部業務來說,有些並不是全部都是作為快取,所以就需要這種主從結構。配置也比較簡單: 

如果檢測到 server 的名字為 master 則認為該實體為主,一個池子裡面只允許一個主,否則認為配置不合法。 

統計指標

個人覺得 twemproxy 存在的另外一個問題是延時指標完全缺失,這個對於排查問題以及監控報警是比較不利的。針對這個問題,我們增加了兩種延時指標: 

  1. request latency, 指的是客戶端請求到傳回的延時, 包含 twemproxy 內部以及 server 的耗時,這個指標更加接近業務的耗時;

  2. server latency, 指的是 twemproxy 請求 server 的耗時,這個可以理解為 Redis/Memcached server 的耗時。

在偶發問題的場景下,根據兩種延時可以定位是 twemproxy、server 還是客戶端的問題(比如 GC)導致慢請求,另外也可以慢請求的比例進行監控報警。這兩種指標是通過 bucket 的方式來記錄的,比如 <1ms 的數目,<10ms 的數目等等。 

仍然存在的問題

  1. 在 worker 數目減少的場景下,被銷毀的老 Worker 的 tcp backlog 會丟失會導致一些連接超時;

  2. unix socket 沒有 reuse port 類似的機制,所以實際上還是單行程但可以支持在線 reload;

  3. 不支持 Memcached 二進制協議,幾年前有人提供相關 PR 但一直都沒有進入 master;

  4. 客戶端的最大連接數有配置但實際上不生效,這個功能我們後續會加上; 

  5. 命令支持不全(主要是沒有 key 以及一些 blocking 的指令);

  6. reload 期間新老行程的配置不一致會可能會導致臟資料。

性能壓測

以下資料是在長連接小包場景下壓測得出,主要是驗證多行程版本是否跟預期的一致。沒有其他硬體到達瓶頸之前,性能可以隨著 CPU 核數線性增長。

壓測環境如下:

  • CentOS 6.6 

  • CPU Intel E5-2660 32 邏輯核

  • 記憶體 64G

  • 兩張千兆網卡做 bond0

單個 worker 場景和 twemproxy 改造之前的性能差不多,在 10w 左右。隨著 worker 數目增加,後面性能和 worker 基本是保持線上增長,符合預期。8 核以上的瓶頸是 bond0 樣式下包接收不均勻導致單網卡性能達到瓶頸,資料無法作為參考。上面的資料也是我們自己環境的壓測資料,大家可以自行驗證。如果是多網卡需要註意系結中斷或者多佇列到多個 CPU, 避免 CPU0 軟中斷處理成為瓶頸。

最後

多行程版本的 twemproxy 實現上算是比較簡單,但過程中發現並修複不少 twemproxy 細節問題(一部分是使用方報告),比如 mbuf 一旦分配就不會收縮導致記憶體上漲之後不再下降的問題等等。很多功能細節我們也在不斷優化,我們也只維護 Github 上的一個版本。 

代碼地址: https://github.com/meitu/twemproxy

除此之外,我們團隊目前也開源其他一些專案: 

  • golang 版本的 kafka consumer group

  • php 版本的 kafka consumer group

  • 基於以太坊的 DPoS 實現

後續還會開源更多的東西,歡迎大家多多關註~ 

最後感謝相關代碼貢獻者: @ruoshan @karelrooted @Huang-lin @git-hulk 

取用

1 twitter/twemproxy https://github.com/twitter/twemproxy

2 meitu/twemproxy https://github.com/meitu/twemproxy

3 twmeporxy binary memcached https://github.com/twitter/twemproxy/tree/binary_memcache

4 soreuseport: TCP/IPv4 implementation https://lwn.net/Articles/542718/

5 The SO_REUSEPORT socket option https://lwn.net/Articles/542629/

相關閱讀:


高可用架構

改變互聯網的構建方式

長按二維碼 關註「高可用架構」公眾號

赞(0)

分享創造快樂