歡迎光臨
每天分享高質量文章

.NET 環境下跨行程、高頻率讀寫資料

來自:藍建榮

鏈接:https://www.cnblogs.com/lanxiaoke/p/8971301.html


一、需求背景

1、最近專案要求高頻次地讀寫資料,資料量也不是很大,多表總共加起來在百萬條上下。

單表最大的也在25萬左右,歷史資料表因為不涉及所以不用考慮,

難點在於這個規模的熱點資料,變化非常頻繁。

資料來源於一些檢測設備的採集資料,一些大表,有可能在極短時間內(如幾秒鐘)可能大部分都會變化,

而且主程式也有一些後臺服務需要不斷輪詢、讀寫某種型別的設備,所以要求信息交互時間盡可能短。

2、之前的解決方案是把所有熱點資料,統一加載到共享記憶體裡邊,到也能夠支撐的住(毫秒級的),但是由於系統架構升級,之前的程式(20年前的)不能兼容。

只能重新寫一個,最先想到的是用redis,當時把所有API重寫完成後,測試發現效率不行,是的,你沒有看錯,redis也是有使用範圍的。

3、redis讀寫非常快,但是對於大批量讀寫操作我覺得支持不夠,雖然redis支持批量讀寫,但是效率還是不夠快,

對於字串(string)型別的批量讀寫,我測試過;效率比較好的在每批次200 至 250條之間,處理20萬條資料耗時5秒左右, (PC機,8G,4核)

而對於有序集合(sorted set)型別,批量寫的操作用起來非常彆扭,而且沒有修改API(如有其他方式請指教),我測試過,效率沒string型別那麼高

其他型別不適合我的業務場景,就沒考慮使用了

4、所以專案組最後決定還是用回共享記憶體,先決定在.net環境下使用c#的共享記憶體,這個功能可能使用的人不多,其實在.net4.0版本就已經集成進來了在System.IO.MemoryMappedFile命名空間下。這個類庫讓人很無語,因為裡邊能用的只有Write、Read這2種方法,而且只是針對位元組的操作,

需要非常多的型別轉換,非常麻煩!想想,只能以位元組為單位去構建一個需要存放百萬級資料的記憶體資料庫,得多麻煩?

需要手動搞定索引功能,因為要支持各種查詢,最後花了一天的時間寫完DEMO,最後測試後發現效率並沒有很大提高,因為當時加了互斥量測試,

但是離毫秒級差得遠。這個技術點有興趣的可以瞭解下,園子里有,如:https://www.cnblogs.com/zeroone/archive/2012/04/18/2454776.html

二、沒錯,第一節寫的太多了

1、最後分析,這應該是c#語言的瓶頸,c#對於這種騷操作是不那麼成熟的。

2、最後瞄來瞄去,決定使用VC開發一個dll,在裡邊封裝對記憶體資料的讀寫功能,然後c#呼叫

3、本人的C、C++不那麼熟、參考了一些實體,比如園子里的:http://www.cnblogs.com/cwbcwb505/archive/2008/12/08/1350505.html

4、是的,你沒有看錯,2008年的,我還看到一篇更早的,看來底層開發C、C++那麼經久不衰不是沒有道理的,很多技術現在都在用

5、看看什麼是共享記憶體

三、開始寫代碼了

1、首先建2個控制台專案,支持MFC,

2、先這樣:一個負責創建共享記憶體,初始化資料

3、再這樣:一個讀寫資料測試,最後修改

4、最後修改下圖片細節,測試一下,看看效果

5、完成了,see, 是不是很簡單呀?都會了嗎?

 四、代碼


1、先定義個列舉傳回狀態

typedef enum

{

    Success = 0,

    AlreadyExists = 1,

    Error = 2,

    OverSize = 3

}enumMemory;


2、再定義個結構體用來測試

typedef struct

{

    int        TagID;

    char    TagName[32];

    int        Area;

    double    EngVal;

    double    UpdateTime;

    double    RawMax;

    double    RawMin;

    double    RawVal;

    char    Name[50];

    char    Al;

    double    ASTime;

    char    MaskState;

    double    AMTime;

    char    Cf;

    char    Tdf;

    char    AlarmCode[32];

}TENG;

3、開始創建共享記憶體

int Create(UINT size)

{

    // Data

    HANDLE fileMap = CreateFileMapping(INVALID_HANDLE_VALUE, NULL, PAGE_READWRITE, 0, size, “Name”);

    if (fileMap == NULL || fileMap == INVALID_HANDLE_VALUE)

        return Error;

    if (GetLastError() == ERROR_ALREADY_EXISTS)

        return AlreadyExists;

    // init

    void *mapView = MapViewOfFile(fileMap, FILE_MAP_WRITE, 0, 0, size);

    if (mapView == NULL)

        return Error;

    else

        memset(mapView, 0, size);

    return Success;

}

4、再開始寫資料

int Write(void *pDate, UINT nSize, UINT offset)

{

    // open

    HANDLE fileMap = OpenFileMapping(FILE_MAP_WRITE, FALSE, “Name”);

    if (fileMap == NULL)

        return Error;

    // hander

    void *mapView = MapViewOfFile(fileMap, FILE_MAP_WRITE, 0, 0, nSize);

    if (mapView == NULL)

        return Error;

    else

        WriteDataPtr = mapView;

    // write

    memcpy(mapView, pDate, nSize);

    UnmapViewOfFile(pMapView);

    return Success;

}

5、開始讀資料

int Read(void *pData, UINT nSize, UINT offset)

{

    // open

    HANDLE fileMap = OpenFileMapping(FILE_MAP_READ, FALSE, GetTableName());

    if (fileMap == NULL)

        return Error;

    // hander

    void *pMapView = MapViewOfFile(fileMap, FILE_MAP_READ, 0, 0, nSize);

    if (pMapView == NULL)

        return Error;

    else

        ReadDataPtr = pMapView;

    memcpy(pData, (pMapView, nSize);

    UnmapViewOfFile(pMapView);

    return Success;

}

6、OK了,不複雜,網上都有這些資料,最後我們貼上測試程式

int _tmain(int argc, TCHAR* argv[], TCHAR* envp[])

{

    int length = 100000;

    CEng * ceng = new CEng();

    DWORD dwStart = GetTickCount();

    for (int i = 0; i < length; i++) {

        TENG eng;

        ceng->Read(ŋ, ceng->size, ceng->size * i);

        eng.EngVal = i;

        ceng->Write(ŋ, ceng->size, (i*ceng->size));

        if (i % 10000 == 0 || i == length – 1)

            printf(“正在讀寫的Eng.TagName:%s
“, eng.TagName);

    }

    printf(“總條數%d,耗時:%d 毫秒
“, length, GetTickCount() – dwStart);

    // 驗證資料

    TENG eng5000;

    ceng->Read(&eng5000;, ceng->size, ceng->size * 5000);

    printf(”
驗證資料
“);

    printf(“第5000個Eng的TagID:%d, EngVal:%lf
“, eng5000.TagID, eng5000.EngVal);

    scanf_s(“按任意鍵結束”);

    return 0;

}

7、還有寫測試程式

int _tmain(int argc, TCHAR* argv[], TCHAR* envp[])

{

    int length = 100000;

    CEng * ceng = new CEng();

    ceng->Create(ceng->size * length);

    DWORD dwStart = GetTickCount();

    for (int i = 0; i < length; i++)

    {

        TENG eng;

        memset(ŋ, 0, ceng->size);

        eng.TagID = i;

        sprintf_s(eng.AlarmCode, “AlarmCode.%d”, i);

        sprintf_s(eng.TagName, “TagName.%d”, i);

        if (i % 10000 == 0 || i == length – 1)

            printf(“正在寫入的Eng.TagName:%s
“, eng.TagName);

        ceng->Write(ŋ, ceng->size, (i*ceng->size));

    }

    // print time

    printf(“寫入資料完畢,總條數:%d
“, length);

    printf(“初始化值共享記憶體區耗時:%d 毫秒
“, GetTickCount() – dwStart);

    scanf_s(“按任意鍵結束”);

    return 0;

}

8、當然得再貼一遍啦

五、差點忘記做成DLL了

1、定義外部函式

extern “C” __declspec(dllexport) int ReadFromSharedMemory(TENG *pData, int nSize, int offset)

{

    return ceng->Read(pData, nSize, offset);

}

extern “C” __declspec(dllexport) int WriteToSharedMemory(void *pData, int nSize, int offset)

{

    return ceng->Write(pData, nSize, offset);

}

2、好了,VC到此為止,可以去領盒飯了,c#進場

public class Lib

{

    [DllImport(“ConsoleApplication4.dll”, CallingConvention = CallingConvention.Cdecl)]

    public static extern int ReadFromSharedMemory(IntPtr pData, int nSize, int offset);

    [DllImport(“ConsoleApplication4.dll”, CallingConvention = CallingConvention.Cdecl)]

    public static extern int WriteToSharedMemory(IntPtr pData, int nSize, int offset);

}

3、c#測試一下

static void Main(string[] args)

{

    var length = 100000;

    var startTime = DateTime.Now;

    var size = Marshal.SizeOf(typeof(TEng));

    var intPtrOut = Marshal.AllocHGlobal(size);

    var intPtrIn = Marshal.AllocHGlobal(size);

    for (var i = 0; i < length; i++)

    {

        Lib.ReadFromSharedMemory(intPtrOut, size, size * i);

        var eng = Marshal.PtrToStructure(intPtrOut);

        eng.EngVal = i;

        Marshal.StructureToPtr(eng, intPtrIn, true);

        Lib.WriteToSharedMemory(intPtrIn, size, size * i);

        if (i % 10000 == 0)

            Console.WriteLine(“eng.TagID:{0}”, eng.TagID);

    }

    Console.WriteLine(“總條數{0},耗時:{1} 毫秒”, length.ToString(),

        (DateTime.Now – startTime).TotalMilliseconds.ToString());

    // 驗證資料

    var intPtr100 = Marshal.AllocHGlobal(size);

    Lib.ReadFromSharedMemory(intPtr100, size, size * 100);

    var eng100 = Marshal.PtrToStructure(intPtr100);

    Console.WriteLine();

    Console.WriteLine(“驗證資料”);

    Console.WriteLine(“第100個Eng的TagID:{0},EngVal:{1}”, eng100.TagID, eng100.EngVal);

    Console.ReadKey();

}

4、165毫秒,相比在VC下運行,差了一個數量級,但是,也不錯了;

因為c#環境下需要不斷的Marshal.PtrToStructure、Marshal.StructureToPtr,頻繁地把資料在托管記憶體俞共享記憶體之間搬運是需要耗費時間的,這點有更好處理方式的請指教。

六、因為跨執行緒、行程,所以要考慮加入互斥量

1、很簡單,MFC下有現成的類CMutex,加在Write裡邊在看看效率

互斥量是需要耗費資源的,多了將進100毫秒

2、讀寫都加上互斥量試試看

又多了80多毫秒,

魚與熊掌不可兼得,要根據實際運用場景覺得是否加上互斥量。


●編號142,輸入編號直達本文

●輸入m獲取文章目錄

推薦↓↓↓

Web開發

更多推薦18個技術類公眾微信

涵蓋:程式人生、演算法與資料結構、黑客技術與網絡安全、大資料技術、前端開發、Java、Python、Web開發、安卓開發、iOS開發、C/C++、.NET、Linux、資料庫、運維等。

赞(0)

分享創造快樂