多終端數據同步機制設計(二)

来源:http://www.cnblogs.com/ben121011/archive/2016/09/21/5894056.html
-Advertisement-
Play Games

多終端數據同步機制設計(二) Intro 如果您沒有看上一篇文章,建議您先移步到這裡查看第一部分 上一次主要解決了基本的數據增量同步的問題,但仍然存在一些問題。 可能存在的主要問題: 針對以上可能出現的這兩個問題,需要對數據進行校驗並且數據量超過一定量時進行分批量傳輸, 本文將著手解決 數據校驗 和 ...


多終端數據同步機制設計(二)

Intro

如果您沒有看上一篇文章,建議您先移步到這裡查看第一部分 上一次主要解決了基本的數據增量同步的問題,但仍然存在一些問題。 可能存在的主要問題:

  1. 大數據量傳輸時,數據在傳輸過程出現部分丟失,數據不完整
  2. 超大數據量需要同步,導致響應時間過長而導致連接超時

針對以上可能出現的這兩個問題,需要對數據進行校驗並且數據量超過一定量時進行分批量傳輸, 本文將著手解決 數據校驗數據分批次傳輸 這兩個問題。

同步流程概覽

結合之前的同步流程,加上數據校驗和分批次傳輸數據,大概流程如下: 客戶端調用伺服器端的 Pull 介面從伺服器端拉取數據, 如果本地版本號等於伺服器端最新版本號,則已更新的最新版本, 如果本地版本小於伺服器端最新的版本號,則拉取需要更新的數據,伺服器端返回數據的同時會返回本地傳輸的數據的一個校驗值, 客戶端獲取到伺服器端響應時先根據接收到的數據計算校驗值,計算出來之後與伺服器端返回的校驗值進行比較, 如果本地計算的校驗值與伺服器端返回的校驗值一致則進行更新客戶端本地數據,不一致則視為無效數據,重新請求 Pull 介面。

更新到最新版本之後,判斷本地是否存在未提交的版本,如果本地不存在修改則本次數據同步完成,如果本地存在修改,則提交本地修改,提交本地數據的之前要先計算傳輸數據的校驗值,校驗值和本地數據一起傳給伺服器端 Push介面。 伺服器端 Push 接收到客戶端請求之後需要進行數據校驗,根據傳輸的數據計算校驗值並與客戶端傳的校驗值比較, 如果兩個值不一致,則視為數據在傳輸過程中發生丟失或是異常數據,則不處理並返回客戶端,本次請求屬於異常請求。 如果兩個值一致,再進行數據處理,處理結束之後,數據會有一個返回狀態和其他必要的屬性,根據數據計算校驗值,與從伺服器拉取數據時類似,不再贅述, 客戶端數據校驗通過之後,根據伺服器端處理狀態進行本地數據的更新。

下麵展示添加數據校驗後的主要流程圖:

伺服器端獲取數據:

 

客戶端拉取數據:

 

伺服器端更新數據:

 

客戶端推送更新數據:

 

數據校驗

數據校驗,我們用的是MD5進行校驗,取傳輸數據的MD5,使用MD5有兩方面的考慮: 一方面因為MD5生成的字元串不算太長,不會影響傳輸的數據量, 另一方面也是因為MD5比較通用一些,APP端實現起來也比較方便。

數據分批傳輸

數據分批次傳輸,自己感覺這裡實現的比較 LOW ,這裡類似於網站上的分頁,沒想到更好的解決方案,期待大神分享更好的解決方案。 返回客戶端 當前請求數據頁碼索引 和 本次數據傳輸總頁數,如果頁碼索引小於總頁數,則頁碼索引+1,再請求一次介面知道返回的頁碼索引等於總頁數。

Summary

數據轉MD5踩到的坑

數據轉MD5的時候,再次踩了一個坑, 開始是這樣做的,用MD5演算法計算出位元組數組,然後使用 System.Text.Encoding.UTF8.GetString() 方法轉換成字元串,結果在調試的時候就傻逼了,獲取到的字元串是亂碼、亂碼、亂碼。。。【No zuo no die】

下麵祭出我鮮血淌過的代碼【笑Cry】

 1     /// <summary>
 2     /// 對象轉換為MD5字元串
 3     /// </summary>
 4     /// <param name="obj">對象</param>
 5     /// <param name="isLowwer">是否是小寫</param>
 6     /// <returns></returns>
 7     public static string ToMD5String(this object obj, bool isLowwer = false)
 8     {
 9         if (obj == null)
10         {
11             return "";
12         }
13         //創建MD5對象
14         MD5 md5 = new MD5CryptoServiceProvider();
15         byte[] byteArray = null;
16         using (MemoryStream ms = new MemoryStream())
17         {
18             new System.Runtime.Serialization.Formatters.Binary.BinaryFormatter().Serialize(ms, obj);
19             byteArray = ms.ToArray();
20         }
21         //計算指定位元組數組的哈希值
22         byte[] bMD5 = md5.ComputeHash(byteArray);
23         //釋放加密服務提供類的所有資源
24         md5.Clear();
25         System.Text.StringBuilder sbMD5Pwd = new System.Text.StringBuilder();
26         if (isLowwer)
27         {
28             for (int i = 0; i < bMD5.Length; i++)
29             {
30                 //將每個位元組數據轉換為2位小寫的16進位的字元
31                 sbMD5Pwd.Append(bMD5[i].ToString("x2"));
32             }
33         }
34         else
35         {
36             for (int i = 0; i < bMD5.Length; i++)
37             {
38                 //將每個位元組數據轉換為2位大寫的16進位的字元
39                 sbMD5Pwd.Append(bMD5[i].ToString("X2"));
40             }
41         }
42         return sbMD5Pwd.ToString();
43     }

 

End

最後提供整個同步流程設計的流程圖,點我下載

另如果你有別的方案歡迎共同討論,希望大神看到能給出自己的看法和意見,有不正確的地方還希望能夠告知。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、併發的基本含義 在操作系統中,併發是指一個時間段中有幾個程式都處於已啟動運行到運行完畢之間,且這幾個程式都是在同一個處理機上運行,但任一個時刻點上只有一個程式在處理機上運行。 在關係資料庫中,允許多個用戶同時訪問和更改共用數據的進程。SQL Server 使用鎖定以允許多個用戶同時訪問和更改共用 ...
  • Web 應用程式使用的 Cookie 個人認為這裡設置的cookie與訪問cookie的安全性關聯大一點,配置節如下 httpOnlyCookies:預設是false,作用是是否禁用瀏覽器腳本訪問cookie。在Form認證時會頒發一個認證票寫在cookie,最開始我以為這裡設置了則可以訪問,結果並 ...
  • 背水一戰 Windows 10 之 控制項(彈出類): FlyoutBase, Flyout, MenuFlyout ...
  • ASP.NET Core中間件(Middleware)進階學習實現SOAP 解析。 本篇將介紹實現ASP.NET Core SOAP服務端解析,而不是ASP.NET Core整個WCF host。 因為WCF中不僅僅只是有SOAP, 它還包含很多如消息安全性,生成WSDL,雙工通道,非HTTP傳輸等 ...
  • 前言 大家好,今天給大家介紹一個 ASP.NET Core MVC 的一個新特性,給全局路由添加統一首碼。嚴格說其實不算是新特性,不過是Core MVC特有的。 應用背景 不知道大家在做 Web Api 應用程式的時候,有沒有遇到過這種場景,就是所有的介面都是以 /api 開頭的,也就是我們的api ...
  • 當我們開發一款App的時候,App需要跟後臺服務進行通信獲取或者提交數據。如果我們沒有完善的安全機制則很容易被別用心的人偽造請求而篡改數據。 所以我們需要使用某種安全機制來保證請求的合法。現在最常用的辦法是給每個http請求添加一個簽名,服務端來驗證簽名的合法性,如果簽名合法則執行響應的操作,如果簽 ...
  • 第三方控制項,設置ChartControl的樣式,僅供參考 Demo: <Grid> <Grid.Resources> <SolidColorBrush x:Key="GridLineBursh" Color="CornflowerBlue"></SolidColorBrush> </Grid.Res ...
  • 當我們來回切換頁面時候,視圖被緩存下來,不用每次再去new一個新的視圖,可以大大地提高性能。當跳出一個視圖後,視圖的元素被保存在DOM中,它的作用域也就不在$watch的作用域內,當我們訪問一個已經被緩存的視圖後,它的scope重新回到作用域內,同時留在DOM中的元素也被激活。 視圖生命周期: 視圖 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...