CYQ.Data 操作 Json 性能測試:對比 Newtonsoft.Json

来源:https://www.cnblogs.com/cyq1162/p/18080172
-Advertisement-
Play Games

在 CYQ.Data 版本更新的這麼多年,中間過程的版本都在完善各種功能。基於需要支持或相容的代碼越多,很多時候,常規思維,都把相關功能完成,就結束了。實現過程中,無法避免的會用到大量的反射、鎖等對性能有所影響的邏輯代碼。CYQ.Data 從V5.9 版本開始,開始大規模的優化調整代碼,目前穩定在 ... ...


前言:

CYQ.Data 版本更新的這麼多年,中間過程的版本都在完善各種功能。

基於需要支持或相容的代碼越多,很多時候,常規思維,都把相關功能完成,就結束了。

實現過程中,無法避免的會用到大量的反射、鎖等對性能有所影響的邏輯代碼。

CYQ.Data 從V5.9 版本開始,開始大規模的優化調整代碼,目前穩定在 V5.9.2.7 版本,下麵看一下更新記錄

版本更新記錄:

794:新增:FireBird 資料庫支持:增刪改查與分頁。(2023-12-18)【V5.9.0.0 - V5.9.0.2795:新增:DaMeng 達夢資料庫支持:增刪改查與分頁。(2023-12-20796:優化:FireBird 數據結構獲取與轉化的精準化。(2023-12-21797:優化:DaMeng 數據結構獲取與轉化的精準化。(2023-12-22798:新增:DaMeng : AppConfig.DB.IsDaMengUpper 配置,預設表名欄位轉大寫。(2023-12-23799:新增:FireBird:AppConfig.DB.IsFireBirdUpper 配置,預設表名欄位轉大寫。(2023-12-23800:優化:Postgre: AppConfig.DB.IsPostgreLower 配置,預設表名欄位轉小寫。(2023-12-23801:新增:KingBaseES 人大金倉資料庫支持:增刪改查與分頁。(2023-12-24802:優化:KingBaseES 數據結構獲取與轉化的精準化。(2023-12-25803:優化:CYQ.Data.Orm.SimpleOrm 基類。(2024-01-01804:新增:分散式鎖類:DistributedLock。(2024-01-02805:優化:調整註意:CacheManage 名稱變更分散式緩存:DistributedCache。(2024-01-04806:優化:調整註意:JsonHelper 名稱空間由CYQ.Data.Tool 變更為:CYQ.Data.Json。(2024-01-04807:優化:增加輸出標準庫:.net standard2.1 版本。(2024-01-10-------------------------------------------------------------------------------------
808:優化:AppConfig.WebRootPath 路徑的獲取。(2024-01-13)【V5.9.0.3809:優化:SimpleOrmBase(2024-01-13810:優化:增加 AppConfig.IsDebugMode 只讀屬性,優化 WebRootPath 屬性取值。
811:優化:內部IP獲取。
-------------------------------------------------------------------------------------
812:修複:AppConfig.IsDebugMode .net 下取值。(2024-01-21)【V5.9.0.4813:新增:分散式鎖增加冪等性方法。(2024-01-21814:修複:V5.9.0.3優化的內部IP獲取,在Docker容器不支持的異常。 【V5.9.0.5-------------------------------------------------------------------------------------
815:優化:XHtmlAction 載入 html 速度,無實體&xxxx;內容時不載入dtd。(2024-01-25)【V5.9.0.6816:優化:AppConfig:IsNetCore 和 IsWeb 和 WebRoot 三個屬性取值。(2024-01-25817:移除:【分散式鎖】轉移到 Taurus.DistributedLock 插件庫中(增加資料庫鎖)。(2024-01-25818:優化:SimpleOrmBase 增加構造函數重載,允許異常時不寫日誌【以支持分散式資料庫鎖】。(2024-01-26819:優化:AppConfig 調整幾個不常用的配置項【DefaultCacheTime、IsEnumToInt、JsonEscape】。(2024-01-26820:優化:DistributedCache 開放幾個批量介面,以供分散式鎖插件調用。(2024-01-27821:修複:SimpleOrmBase 構造函數忘了賦值鏈接。(2024-01-29)【V5.9.0.7-------------------------------------------------------------------------------------
822:優化:XHtmlAction 載入性能:優化緩存轉化,提升2次訪問速度。(2024-01-31)【V5.9.1.0823:優化:XHtmlAction 載入性能:優化取消DTD依賴、提升首次訪問速度。(2024-02-01-------------------------------------------------------------------------------------
824:優化:XHtmlAction 調整方法或屬性:SaveToCache 更名為RefleshCache 等。(2024-02-04)【V5.9.1.1825:移除:IField 擴展。(2024-02-04826:優化:MDataRow GetIndex,提升取值性能。(2024-02-04827:優化:ConvertTool 相關方法,提升轉化性能。(2024-02-04-------------------------------------------------------------------------------------
版本簡要:通過大範圍使用 Emit 來替換反射,提升性能。
828:新增:CYQ.Data.Emit(內部)優化反射代碼,提升性能。【V5.9.2829:新增:JsonOp 參數,調整(JsonHelper、MDataRow、MDataTable)ToJson 重載方法參數。(2024-02-06830:優化:JsonHelper 實體轉化性能:涉及:ToJson(),ToList<T>()。(2024-02-052024-02-22831:優化:MDataTable 實體列表轉化性能:涉及:CreateFrom。(2024-02-22832:優化:MDataRow 實體轉化性能:涉及:CreateFrom。。(2024-02-22-------------------------------------------------------------------------------------
版本簡要:對 XHtmlAction 進行各種簡化和優化,以供 Taurus.Mvc 便於使用。
833:移除:XHtmlAction SetFor 系列方法(該方法使用門檻較高) 。(2024-02-23)【V5.9.2.1834:移除:XHtmlAction SetForeach(MDataTable dataSource, string idOrName, SetType setType) 重載方法 。(2024-02-23835:移除:XHtmlAction GetByID,GetByName 兩個方法,其 Get 方法已可替代以上兩者。(2024-02-23836:移除:XHtmlAction IsCurrentLang,IsUseLangSplit 兩個成員屬性。(2024-02-23837:移除:XHtmlBase LoadFromCache、SetCDATA、ClearCDATA 等方法。
838:優化:XHtmlAction SetForeach 方法優化,支持綁定其它數據源。(2024-02-23839:優化:XHtmlAction LoadData 方法優化,效果變更為批量對KeyValue賦值。(2024-02-23840:優化:XHtmlAction 載入:去除 http://www.w3.org/1999/xhtml 名稱空間。2024-02-24)【V5.9.2.2】
-------------------------------------------------------------------------------------
版本簡要:持續優化,提升性能。
840:優化:ConvertTool、ReflectTool 相關方法。(2024-02-26)【V5.9.2.3841:優化:MDataRow Load(json)。(2024-02-26842:優化:MDataTable ToList(t) 內部方法。(2024-02-26845:優化:JsonHelper(2024-02-27-------------------------------------------------------------------------------------
846:變更:將 AppConfig 中的一些和配置無關的只讀屬性轉移到AppConst中。(2024-02-29)【V5.9.2.4847:移除:LocalEnvironment 內部類。(2024-02-29848:優化:ConvertTool.ChangeReaderToList<T> 內部類。(2024-02-29849:新增:開放:CYQ.Data.Emit.EmitPreheat 類,允許處理 Emit 委托預熱。(2024-02-29-------------------------------------------------------------------------------------
版本簡要:針對 Taurus.MVC 進行全方位細節進行性能優化。【V5.9.2.6850:新增:HttpRequest 擴展方法:GetHeader、GetForm、GetQuery、GetCookie 等。(2024-03-04851:優化:XHtmlAction OutXml 等多項細節優化。(2024-03-05-------------------------------------------------------------------------------------
852:新增 HttpPostedFileCreator.Create 用於創建 HttpPostedFile 實例。(因 Taurus RpcProxy 添加)(2024-03-07)【V5.9.2.7853:新增:開放幾個和實體轉換相關的 Emit 介面。(2024-03-08854:修正:JsonHelper.ToJson 未處理 IgnoreJson 屬性標記的問題、其它優化。(2024-03-08

優化簡介:

在整個優化過程,主要分為:

1、邏輯優化:

通過邏輯優化,減少代碼執行。

2、減少中間商:

在過往版本,MDataTable 和 MDataRow 做為中間人,承載著所有類型轉換。

通過編寫直接轉換,不再通過中間人進行轉換,減少轉換的環節。

3、Emit 代替反射:

在類型轉換中,無可避免的大量的使用了反射。

為了替代大量的反射,因此編寫了大量的Emit,導致工作量有點大,但為了性能,這無可避免。

4、減少鎖:

在內部中,有大量用到MDicationary來緩存數據,這是一個自定義實現的線程安全的帶鎖的字典,曾經優化過一次,將通用鎖拆分成了讀寫鎖。

在減少鎖的過程中,對於無需要 Remove 操作或 Foreach 遍歷的全局數據緩存字典,將 MDicationary 換成 Dicationary,避開鎖機制,對併發場景下引發的 Add 異常進行 try

5、並行執行:

對於數據量大的場景,分拆成多線程並行執行。

 

下麵就來重新看一下新的測試結果:

測試環境:

本次測試為.Net Windown 版本,下次再測試.Net Core Linux 版本。

Win11 系統:6核16G記憶體

測試代碼,基礎實體類:

public class SimpleEntity
{
    public int ID { get; set; }
    public Guid MsgID { get; set; }
    public string Name { get; set; }
    public bool IsEnable { get; set; }
    public DateTime CreateTime { get; set; }
}

本次測試結果僅供參考

性能測試對比:

1、實體類轉Json(執行4次):

2、實體類列表(100條)轉Json(執行4次):

3、Json 轉 Dictionary<,> (執行4次)

4、Json 轉 實體類(執行4次)

5、Json 轉 實體類列表100條數據 (執行4次) 

測試結果總結:

1、在首次執行時,CYQ.Data 全面超過了 Newtonsoft.Json,差距明顯,說明 Newtonsoft.Json 首次執行,性能較低,在預熱這一塊沒有優化好。

2、在 Json 轉 Dictionary 方面,CYQ.Data 有全面的優勢,超過 Newtonsoft.Json。

2、在其它轉換的在後續執行中,Newtonsoft.Json 和 CYQ.Data 差距不大,基本持平。

總結:

曾經有人和我說過,CYQ.Data 在 Json 這一塊的轉換性能不強,後來換了 Newtonsoft.Json 去操作 Json 。

那時候可能時機不成熟,要優化,需要重寫的代碼太多了,所以就沒怎麼處理。

直到今年,有個老田同學他自己寫框架了,問了個他框架調用非同步方法無法 try 到異常的問題:

秋天您好,請教您一個問題,您在做框架的時候是如何實現async的異常捕捉和處理的,我這裡支持async的方法後反射到controller里的方法無法正常捕捉到異常,拋出自定義異常會讓整個線程掛掉。

後來這問題解決了之後,我翻了下歷史聊天記錄,發現它曾經建議我在Taurus里把方法的反射換成委托。

從這裡開始,開啟了 Taurus.MVC 框架的全面優化。

然後就涉及做為底層組件的 CYQ.Data,將它進行了全面的性能優化大整改。

於是便有瞭如今性能優越的版本。

版權聲明:本文原創發表於 博客園,作者為 路過秋天 本文歡迎轉載,但未經作者同意必須保留此段聲明,且在文章頁面明顯位置給出原文連接,否則視為侵權。
個人微信公眾號
創業QQ群:617713515
Donation(掃碼支持作者):支付寶:
Donation(掃碼支持作者):微信:
騰訊雲產品福利專區

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 源碼下麵無秘密,這是程式員的口頭禪。對於強大而且設計優秀的Spring框架也是這樣的,在基礎代碼層層堆疊之下,Spring成為了一個非常流行的框架。 ...
  • Go(又稱為Golang)是一門由Google開發的開源編程語言,於2009年首次公開發佈。Go語言被設計用來提高軟體開發的效率和可靠性,在處理大規模系統時表現出色。以下是Go語言的一些特點和優勢: 特點 簡潔易讀:Go語法簡潔清晰,易於閱讀和學習,減少了代碼的複雜性。 併發支持:Go原生支持輕量級 ...
  • 我們將公共的,可利用的代碼進行打包,發佈到github上面,在需要的地方直接go get即可,需要註意的是go get中最小單位是包,如果一發佈的項目里包含多個子包,在go get時,應該精確到小包級別。 將go的項目發到github作成開源公用包 版本:v1.0.0,需要是3位的版本號,不然會報錯 ...
  • 大家好 ,我是R哥。 近兩年 AI 太火了,風靡全球,AI 編程工具也沒有落下,比如微軟的 GitHub Copilot,還有阿裡的通義靈碼,連 JetBrains 系列工具都逼出了自家的 AI 功能。 大家知道我是效率狂人,同樣也是工具狂人,之前給大家分享了不少開發神器,其中也不乏國內的優秀選手, ...
  • 本文深入探討了Java 8引入的全新日期時間API相較於傳統的Date和Calendar類的優勢及實際應用。鑒於Java 8新日期時間API在設計上的先進性和易用性,我們強烈建議開發者積極採納並替換掉陳舊的Date和Calendar類,轉而採用如LocalDate、LocalDateTime、Zon... ...
  • 如果最近您收到了MacOS 14.4的升級提醒,那麼建議你暫時先不要升級! 在x上,Java開發領域的一些大v們,也發現了這個問題,並提醒大家不要升級。 根據Java官方發佈的文章瞭解到,該問題主要是由於macOS上運行的進程可能會訪問受保護記憶體區域中的記憶體。在 macOS 14.4 更新之前,在某 ...
  • 本文介紹基於R語言中的geodetector包,依據多張柵格圖像數據,實現地理探測器(Geodetector)操作的詳細方法~ ...
  • 在一次項目中,在給客戶做系統時,需要調用客戶的系統獲取數據,客戶提供了獲取Token和獲取數據的介面,用戶名和密碼,認證方式是基於Bearer的,通過學習和找資料,提供一個C#示例 一個C#示例 1、傳入語句獲取數據 /// <summary> /// 傳入語句獲取數據 /// </summary> ...
一周排行
    -Advertisement-
    Play Games
  • 前言 在我們開發過程中基本上不可或缺的用到一些敏感機密數據,比如SQL伺服器的連接串或者是OAuth2的Secret等,這些敏感數據在代碼中是不太安全的,我們不應該在源代碼中存儲密碼和其他的敏感數據,一種推薦的方式是通過Asp.Net Core的機密管理器。 機密管理器 在 ASP.NET Core ...
  • 新改進提供的Taurus Rpc 功能,可以簡化微服務間的調用,同時可以不用再手動輸出模塊名稱,或調用路徑,包括負載均衡,這一切,由框架實現並提供了。新的Taurus Rpc 功能,將使得服務間的調用,更加輕鬆、簡約、高效。 ...
  • 順序棧的介面程式 目錄順序棧的介面程式頭文件創建順序棧入棧出棧利用棧將10進位轉16進位數驗證 頭文件 #include <stdio.h> #include <stdbool.h> #include <stdlib.h> 創建順序棧 // 指的是順序棧中的元素的數據類型,用戶可以根據需要進行修改 ...
  • 前言 整理這個官方翻譯的系列,原因是網上大部分的 tomcat 版本比較舊,此版本為 v11 最新的版本。 開源項目 從零手寫實現 tomcat minicat 別稱【嗅虎】心有猛虎,輕嗅薔薇。 系列文章 web server apache tomcat11-01-官方文檔入門介紹 web serv ...
  • C總結與剖析:關鍵字篇 -- <<C語言深度解剖>> 目錄C總結與剖析:關鍵字篇 -- <<C語言深度解剖>>程式的本質:二進位文件變數1.變數:記憶體上的某個位置開闢的空間2.變數的初始化3.為什麼要有變數4.局部變數與全局變數5.變數的大小由類型決定6.任何一個變數,記憶體賦值都是從低地址開始往高地 ...
  • 如果讓你來做一個有狀態流式應用的故障恢復,你會如何來做呢? 單機和多機會遇到什麼不同的問題? Flink Checkpoint 是做什麼用的?原理是什麼? ...
  • C++ 多級繼承 多級繼承是一種面向對象編程(OOP)特性,允許一個類從多個基類繼承屬性和方法。它使代碼更易於組織和維護,並促進代碼重用。 多級繼承的語法 在 C++ 中,使用 : 符號來指定繼承關係。多級繼承的語法如下: class DerivedClass : public BaseClass1 ...
  • 前言 什麼是SpringCloud? Spring Cloud 是一系列框架的有序集合,它利用 Spring Boot 的開發便利性簡化了分散式系統的開發,比如服務註冊、服務發現、網關、路由、鏈路追蹤等。Spring Cloud 並不是重覆造輪子,而是將市面上開發得比較好的模塊集成進去,進行封裝,從 ...
  • class_template 類模板和函數模板的定義和使用類似,我們已經進行了介紹。有時,有兩個或多個類,其功能是相同的,僅僅是數據類型不同。類模板用於實現類所需數據的類型參數化 template<class NameType, class AgeType> class Person { publi ...
  • 目錄system v IPC簡介共用記憶體需要用到的函數介面shmget函數--獲取對象IDshmat函數--獲得映射空間shmctl函數--釋放資源共用記憶體實現思路註意 system v IPC簡介 消息隊列、共用記憶體和信號量統稱為system v IPC(進程間通信機制),V是羅馬數字5,是UNI ...