歡迎光臨
每天分享高質量文章

【剖析 | SOFARPC 框架】系列之 SOFARPC 同步異步實現剖析

SOFA

Scalable Open Financial Architecture

是螞蟻金服自主研發的金融級分佈式中間件,包含了構建金融級雲原生架構所需的各個組件,是在金融場景里錘煉出來的最佳實踐。


本文為《剖析 | SOFARPC 框架》第四篇

《剖析 | SOFARPC 框架》系列由 SOFA 團隊和原始碼愛好者們出品,

專案代號:文章尾部有參與方式,僅剩 2 篇,歡迎同樣對原始碼熱情的你加入

  前言

這一篇,我們為大家帶來了開發過程中,最常接觸到的同步異步呼叫解析。本文會介紹下同步異步的使用場景,以及 SOFARPC 中的代碼實現機制,為了方便大家理解和閱讀代碼。不會過多的設計代碼實現細節,更多的還是希望大家從中有所收穫,並能夠獨立閱讀核心代碼。

  原理剖析

SOFARPC 以基於 Netty 實現的網絡通信框架 SOFABolt 用作遠程通信框架,使用者不用關心如何實現私有協議的細節,直接使用內置 RPC 通信協議,啟動客戶端與服務端,同時註冊用戶請求處理器即可完成遠程呼叫:


SOFARPC 服務呼叫提供同步 Sync、異步 Future、回呼 Callback 以及單向 Oneway 四種呼叫型別:

先提供一張整體的圖,後面每個方式原理介紹的時候,會進行更加詳細的解釋。讀者可以重點閱讀以下部分的圖示,根據阻塞時間的長短,會有不同的標識。

Sync 同步呼叫

同步呼叫是指的客戶端發起呼叫後,當前執行緒會被阻塞,直到等待服務端傳回結果或者出現了超時異常,再進行後續的操作,是絕大多數 RPC 的預設呼叫方式,無需進行任何設置即可。


這種呼叫方式,當前執行緒發起呼叫後阻塞請求執行緒,需要在指定的超時時間內等到響應結果才能完成本次呼叫。如果超時時間內沒有得到響應結果,那麼會丟擲超時異常。Sync 同步呼叫樣式最常用,註意要根據對端的處理能力合理設置超時時間。



如上圖所示,這裡主要描述了客戶端的處理邏輯,其中客戶端執行緒和 RPC 內部部分處理並不在一個執行緒里。所以這裡客戶端執行緒包含其中一部分操作,後文的圖中也是類似,紅色的樹狀框表示客戶端的執行緒阻塞。


我們可以看到,客戶端在代碼片段 2 中,發起 RPC 呼叫,那麼除非本次 RPC 徹底完成,或者 RPC 在指定時間內丟擲超時異常,否則紅框一直阻塞,導致代碼片段 3 沒有機會執行。

Future  異步呼叫

客戶端發起呼叫後不會同步等待服務端的結果,而是獲取到 RPC 框架給到的一個 Future 物件,呼叫過程不會阻塞執行緒,然後繼續執行後面的業務邏輯。服務端傳迴響應結果被 RPC 快取,當客戶端需要響應結果的時候需要主動獲取結果,獲取結果的過程阻塞執行緒。



如上圖所示,代碼片段 2 發起 RPC 呼叫後,RPC 框架會立刻傳回一個 Future 物件。給到代碼片段 2,代碼片段 2 可以選擇等待結果,或者也可以繼續執行代碼片段 3,等代碼片段3 執行完成後,再獲取 Future 中的值。

Callback 回呼呼叫

客戶端提前設置回呼實現類,在發起呼叫後不會等待結果,但是註意此時是通過背景關係或者其他方式向 RPC 框架註冊了一個 Callback 物件,結果處理是在新的執行緒里執行。RPC在獲取到服務端的結果後會自動執行該回呼實現。



如圖所示,客戶端代碼段 2 發起 RPC 呼叫後,並不關心結果,此時也不會有結果。只是將自己的一個 Callback 物件傳遞給 RPC 框架,RPC 框架發起呼叫後,立即傳回。之後自己等待呼叫結果,在有了呼叫結果,或者超過業務配置的超時時間後,將響應結果或者超時的異常,進行 callback 的回呼。一般的,一個 callback 的結果需要包含兩個部分:


public interface InvokeCallback {    /**     * Response received.     *     * @param result     */    public void onResponse(final Object result);    /**     * Exception caught.     *     * @param e     */    public void onException(final Throwable e);
}


如果是正常傳回,則 RPC 框架回呼用戶傳入 callback 物件的 onResponse 方法,如果是框架層的異常,比如超時,那麼會呼叫 onException 方法。

Oneway 單向呼叫

客戶端發送請求後不會等待服務端傳回的結果,並且會忽略服務端的處理結果,



當前執行緒發起呼叫後,用戶並不關心呼叫結果,只要請求已經發出就完成本次呼叫。單向呼叫不關心響應結果,請求執行緒不會被阻塞,使用 Oneway 呼叫需要註意控制呼叫節奏防止壓垮接收方。註意 Oneway 呼叫不保證成功,而且發起方無法知道呼叫結果。


因此通常用於可以重試,或者定時通知類的場景,呼叫過程是有可能因為網絡問題、機器故障等原因導致請求失敗,業務場景需要能接受這樣的異常場景才能夠使用。

以上介紹的呼叫方式比較


 
 
原始碼剖析

下麵我們以 SOFARPC 中的 BOLT 協議為基礎,介紹一些 RPC 框架下麵的代碼層面的設計。主要介紹代碼結構和相互的呼叫關係:


對 BOLT 的包裝主要在

com.alipay.sofa.rpc.transport.bolt.BoltClientTransport

業務方並不直接使用 BOLT 定義的一些型別,而是使用 RPC 定義的一些型別。這些型別被適配到 BOLT 的型別上,使得 RPC 框架對用戶提供了統一的 API,和底層是否採用 BOLT 不強相關。

Sync 同步呼叫

SOFARPC 中的的同步呼叫是由 Bolt 通信框架來實現的。核心代碼實現在

com.alipay.remoting.BaseRemoting#invokeSync com.alipay.remoting.rpc.protocol.RpcResponseProcessor#doProcess

使用時無需特殊配置。

Future  異步呼叫

使用 Future 異步呼叫 SOFABoot 配置服務取用需要設置


<sofa:global-attrs type="future"/>


元素的 type 屬性宣告呼叫方式為 future:



如上設置為 Future 呼叫的方式。客戶端獲取響應結果有兩種方式:

1. 通過 SofaResponseFuture 直接獲取結果。第一個引數是獲取結果的超時時間,第二個引數表示是否清除執行緒背景關係中的結果。

String result =(String)SofaResponseFuture.getResponse(timeout,true);


2. 獲取原生 Futrue,該種方式獲取JDK原生的 Future,引數表示是否清除執行緒背景關係中的結果。因為響應結果放在JDK原生的 Future,需要通過JDK Future的get()方法獲取響應結果。

Future future = SofaResponseFuture.getFuture(true);


當前執行緒發起呼叫得到 RpcResponseFuture 物件,當前執行緒繼續執行下一次呼叫。在任意時刻使用RpcResponseFuture 物件的 get() 方法來獲取結果,如果響應已經回來此時就馬上得到結果;如果響應沒有回來則阻塞住當前執行緒直到響應回來或者超時時間到。

Callback 回呼呼叫

目前支持 bolt 協議。客戶端回呼類需要實現

com.alipay.sofa.rpc.core.invoke.SofaResponseCallback


接口

使用 SOFABoot的話配置

<sofa:global-attrs type="callback" callback-ref="callback"/>


如上設置是服務級別的設置,也可以進行呼叫級別的設置:

RpcInvokeContext.getContext().setResponseCallback(sofaResponseCallbackImpl);


當前執行緒發起呼叫則本次呼叫馬上結束執行下一次呼叫。發起呼叫時需要註冊回呼,該回呼需要分配異步執行緒池以待響應回來後在回呼的異步執行緒池來執行回呼邏輯。

Oneway 單向呼叫

使用 Oneway 單向呼叫 SOFABoot 配置服務取用需要設置

<sofa:global-attrs type="oneway"/>


元素的type屬性宣告呼叫方式 oneway


  技術實現

超時計算

在同步中,有個很重要的事情就是超時計算。同步 Sync/異步Future/回呼Callback三種通信模型,通過採用HashedWheelTimer 進行超時控制,對這部分感興趣的,可以參考螞蟻通信框架實踐這裡不再重覆說明。


這裡畫出一張超時的時間圖,對 SOFARPC 中 Tracer 中的超時中涉及到的時間點做一個介紹。

通過這張圖中的介紹,加上 SOFATracer 的日誌打印,我們可以在實際的線上環境中,判斷出來,哪一部分耗時比較嚴重,來定位一些超時的問題。


對於 SOFARPC 框架的使用方來說,很多時候是非常關心超時時間的,因為超時時間如果設置時間過長,會阻塞業務執行緒,極端場景下,可能會拖垮整個系統。RPC框架允許用戶設置不同級別的超時時間來控制。


/** * 決定超時時間 * * @param request        請求 * @param consumerConfig 客戶端配置 * @param providerInfo   服務提供者信息 * @return 呼叫超時 */

private int resolveTimeout(SofaRequest request, ConsumerConfig consumerConfig, ProviderInfo providerInfo) {    // 先去呼叫級別配置    Integer timeout = request.getTimeout();    if (timeout == null) {        // 取客戶端配置(先方法級別再接口級別)        timeout = consumerConfig.getMethodTimeout(request.getMethodName());        if (timeout == null || timeout < 0) {            // 再取服務端配置            timeout = (Integer) providerInfo.getDynamicAttr(ATTR_TIMEOUT);            if (timeout == null) {                // 取框架預設值                timeout = getIntValue(CONSUMER_INVOKE_TIMEOUT);            }        }    }    return timeout;
}


目前,我們

1. 先取呼叫級別,這個是通過呼叫執行緒背景關係可以設置的。

2. 然後取客戶端配置的消費者超時時間,先取方法級別配置,如果沒有,取接口級別。

3. 如果還是沒有取到,這時候,我們取服務提供方的超時時間,這個會通過註冊中心傳遞下來。

4. 最終,我們取預設的超時時間,目前這個超時時間是3s。

註意,在真實的場景下,超時控制實際上是一個比較有挑戰的事情,一旦出現 JVM層面的 STW,時間控制就會變得不夠準確。因此,如果系統層面存在某些性能問題,也會影響超時的計算,這時候,會看到,已經超過了超時時間,但是客戶端並沒有及時終止。

執行緒模型

在上面介紹同步異步等多種呼叫方式中,最重要的需要理解同步/異步、阻塞/非阻塞的幾種組合情況,並且能知道什麼事情在什麼執行緒里操作,這會涉及到具體的執行緒模型,由於篇幅原因,本文不做介紹,我們會在下一篇中帶來 SOFARPC 的執行緒模型剖析文章。

  總結

SOFARPC 同步/異步/回呼/單向呼叫通過取用呼叫型別(預設為同步呼叫)四種呼叫方式。


在 Sync 上,支持方法級別,接口級別,方法級別的超時設置。呼叫會阻塞請求執行緒,待響應傳回後才能進行下一個請求。這是最常用的一種通信模型。


在 Callback 上,支持方法級別,接口級別,執行緒級別的回呼設置。是真正的異步呼叫,永遠不會阻塞執行緒,結果處理是在異步執行緒里執行。


在  Future 上,對用戶提供了統一的 API 操作。支持原生 Future 和自定義 Future。用戶 可以直接在當前執行緒背景關係獲取。在呼叫過程不會阻塞執行緒,但獲取結果的過程會阻塞執行緒。


在 Oneway 上,設置簡單。直接支持。為了防止應用出現型別轉換異常,根據傳回值設置不同的預設值。不關心響應,請求執行緒不會被阻塞,但使用時需要註意控制呼叫節奏,防止壓垮接收方。


在超時控制上,結合 BOLT 和 Tracer,將一些關鍵的時間節點進行了整理。使得排查和判斷超時問題更加方便。到這裡,我們就對 RPC 框架中的同步異步實現進行了一些詳細的分析,並深入介紹了 SOFARPC 中的實現細節,希望對大家有所啟發。

  歡迎加入 ,參與 SOFARPC 原始碼解析


SOFARPC 原始碼解析目錄:

我們會逐步詳細介紹每部分的代碼設計和實現,預計會按照如下的目錄進行,以下也包含目前的原始碼分析文章的認領情況:

  • 【已完成】SOFARPC 框架之總體設計與擴展機制

  • 【已完成】SOFARPC 鏈路追蹤剖析

  • 【已完成】SOFARPC 連接管理與心跳剖析

  • 【已完成】SOFARPC 同步異步實現剖析

  • 【已完成】SOFARPC 單機故障剔除剖析

  • 【已認領】SOFARPC 資料透傳剖析

  • 【已認領】SOFARPC 註解支持剖析

  • 【已認領】SOFARPC 執行緒模型剖析

  • 【已認領】SOFARPC 路由實現剖析

  • 【已認領】SOFARPC 序列化比較

  • 【已認領】SOFARPC 優雅關閉剖析

  • 【待認領】SOFARPC 跨語言支持剖析

  • 【待認領】SOFARPC 泛化呼叫實現剖析


領取方式:

直接回覆本公眾號想認領的文章名稱,我們將會主動聯繫你,確認資質後,即可加入,It’s your show time!


除了原始碼解析,也歡迎提交 issue 和 PR:

SOFA: https://github.com/alipay

SOFARPC:https://github.com/alipay/sofa-rpc

SOFABolt:https://github.com/alipay/sofa-bolt

SOFATracerhttps://github.com/alipay/sofa-tracer


長按關註,獲取分佈式架構乾貨

歡迎大家共同打造 SOFAStack https://github.com/alipay



赞(0)

分享創造快樂