CYQ.Data 操作 Json 性能測試:對比 Newtonsoft.Json

来源:https://www.cnblogs.com/cyq1162/p/18080172
-Advertisement-
Play Games

在 CYQ.Data 版本更新的這麼多年,中間過程的版本都在完善各種功能。基於需要支持或相容的代碼越多,很多時候,常規思維,都把相關功能完成,就結束了。實現過程中,無法避免的會用到大量的反射、鎖等對性能有所影響的邏輯代碼。CYQ.Data 從V5.9 版本開始,開始大規模的優化調整代碼,目前穩定在 ... ...


前言:

CYQ.Data 版本更新的這麼多年,中間過程的版本都在完善各種功能。

基於需要支持或相容的代碼越多,很多時候,常規思維,都把相關功能完成,就結束了。

實現過程中,無法避免的會用到大量的反射、鎖等對性能有所影響的邏輯代碼。

CYQ.Data 從V5.9 版本開始,開始大規模的優化調整代碼,目前穩定在 V5.9.2.7 版本,下麵看一下更新記錄

版本更新記錄:

794:新增:FireBird 資料庫支持:增刪改查與分頁。(2023-12-18)【V5.9.0.0 - V5.9.0.2795:新增:DaMeng 達夢資料庫支持:增刪改查與分頁。(2023-12-20796:優化:FireBird 數據結構獲取與轉化的精準化。(2023-12-21797:優化:DaMeng 數據結構獲取與轉化的精準化。(2023-12-22798:新增:DaMeng : AppConfig.DB.IsDaMengUpper 配置,預設表名欄位轉大寫。(2023-12-23799:新增:FireBird:AppConfig.DB.IsFireBirdUpper 配置,預設表名欄位轉大寫。(2023-12-23800:優化:Postgre: AppConfig.DB.IsPostgreLower 配置,預設表名欄位轉小寫。(2023-12-23801:新增:KingBaseES 人大金倉資料庫支持:增刪改查與分頁。(2023-12-24802:優化:KingBaseES 數據結構獲取與轉化的精準化。(2023-12-25803:優化:CYQ.Data.Orm.SimpleOrm 基類。(2024-01-01804:新增:分散式鎖類:DistributedLock。(2024-01-02805:優化:調整註意:CacheManage 名稱變更分散式緩存:DistributedCache。(2024-01-04806:優化:調整註意:JsonHelper 名稱空間由CYQ.Data.Tool 變更為:CYQ.Data.Json。(2024-01-04807:優化:增加輸出標準庫:.net standard2.1 版本。(2024-01-10-------------------------------------------------------------------------------------
808:優化:AppConfig.WebRootPath 路徑的獲取。(2024-01-13)【V5.9.0.3809:優化:SimpleOrmBase(2024-01-13810:優化:增加 AppConfig.IsDebugMode 只讀屬性,優化 WebRootPath 屬性取值。
811:優化:內部IP獲取。
-------------------------------------------------------------------------------------
812:修複:AppConfig.IsDebugMode .net 下取值。(2024-01-21)【V5.9.0.4813:新增:分散式鎖增加冪等性方法。(2024-01-21814:修複:V5.9.0.3優化的內部IP獲取,在Docker容器不支持的異常。 【V5.9.0.5-------------------------------------------------------------------------------------
815:優化:XHtmlAction 載入 html 速度,無實體&xxxx;內容時不載入dtd。(2024-01-25)【V5.9.0.6816:優化:AppConfig:IsNetCore 和 IsWeb 和 WebRoot 三個屬性取值。(2024-01-25817:移除:【分散式鎖】轉移到 Taurus.DistributedLock 插件庫中(增加資料庫鎖)。(2024-01-25818:優化:SimpleOrmBase 增加構造函數重載,允許異常時不寫日誌【以支持分散式資料庫鎖】。(2024-01-26819:優化:AppConfig 調整幾個不常用的配置項【DefaultCacheTime、IsEnumToInt、JsonEscape】。(2024-01-26820:優化:DistributedCache 開放幾個批量介面,以供分散式鎖插件調用。(2024-01-27821:修複:SimpleOrmBase 構造函數忘了賦值鏈接。(2024-01-29)【V5.9.0.7-------------------------------------------------------------------------------------
822:優化:XHtmlAction 載入性能:優化緩存轉化,提升2次訪問速度。(2024-01-31)【V5.9.1.0823:優化:XHtmlAction 載入性能:優化取消DTD依賴、提升首次訪問速度。(2024-02-01-------------------------------------------------------------------------------------
824:優化:XHtmlAction 調整方法或屬性:SaveToCache 更名為RefleshCache 等。(2024-02-04)【V5.9.1.1825:移除:IField 擴展。(2024-02-04826:優化:MDataRow GetIndex,提升取值性能。(2024-02-04827:優化:ConvertTool 相關方法,提升轉化性能。(2024-02-04-------------------------------------------------------------------------------------
版本簡要:通過大範圍使用 Emit 來替換反射,提升性能。
828:新增:CYQ.Data.Emit(內部)優化反射代碼,提升性能。【V5.9.2829:新增:JsonOp 參數,調整(JsonHelper、MDataRow、MDataTable)ToJson 重載方法參數。(2024-02-06830:優化:JsonHelper 實體轉化性能:涉及:ToJson(),ToList<T>()。(2024-02-052024-02-22831:優化:MDataTable 實體列表轉化性能:涉及:CreateFrom。(2024-02-22832:優化:MDataRow 實體轉化性能:涉及:CreateFrom。。(2024-02-22-------------------------------------------------------------------------------------
版本簡要:對 XHtmlAction 進行各種簡化和優化,以供 Taurus.Mvc 便於使用。
833:移除:XHtmlAction SetFor 系列方法(該方法使用門檻較高) 。(2024-02-23)【V5.9.2.1834:移除:XHtmlAction SetForeach(MDataTable dataSource, string idOrName, SetType setType) 重載方法 。(2024-02-23835:移除:XHtmlAction GetByID,GetByName 兩個方法,其 Get 方法已可替代以上兩者。(2024-02-23836:移除:XHtmlAction IsCurrentLang,IsUseLangSplit 兩個成員屬性。(2024-02-23837:移除:XHtmlBase LoadFromCache、SetCDATA、ClearCDATA 等方法。
838:優化:XHtmlAction SetForeach 方法優化,支持綁定其它數據源。(2024-02-23839:優化:XHtmlAction LoadData 方法優化,效果變更為批量對KeyValue賦值。(2024-02-23840:優化:XHtmlAction 載入:去除 http://www.w3.org/1999/xhtml 名稱空間。2024-02-24)【V5.9.2.2】
-------------------------------------------------------------------------------------
版本簡要:持續優化,提升性能。
840:優化:ConvertTool、ReflectTool 相關方法。(2024-02-26)【V5.9.2.3841:優化:MDataRow Load(json)。(2024-02-26842:優化:MDataTable ToList(t) 內部方法。(2024-02-26845:優化:JsonHelper(2024-02-27-------------------------------------------------------------------------------------
846:變更:將 AppConfig 中的一些和配置無關的只讀屬性轉移到AppConst中。(2024-02-29)【V5.9.2.4847:移除:LocalEnvironment 內部類。(2024-02-29848:優化:ConvertTool.ChangeReaderToList<T> 內部類。(2024-02-29849:新增:開放:CYQ.Data.Emit.EmitPreheat 類,允許處理 Emit 委托預熱。(2024-02-29-------------------------------------------------------------------------------------
版本簡要:針對 Taurus.MVC 進行全方位細節進行性能優化。【V5.9.2.6850:新增:HttpRequest 擴展方法:GetHeader、GetForm、GetQuery、GetCookie 等。(2024-03-04851:優化:XHtmlAction OutXml 等多項細節優化。(2024-03-05-------------------------------------------------------------------------------------
852:新增 HttpPostedFileCreator.Create 用於創建 HttpPostedFile 實例。(因 Taurus RpcProxy 添加)(2024-03-07)【V5.9.2.7853:新增:開放幾個和實體轉換相關的 Emit 介面。(2024-03-08854:修正:JsonHelper.ToJson 未處理 IgnoreJson 屬性標記的問題、其它優化。(2024-03-08

優化簡介:

在整個優化過程,主要分為:

1、邏輯優化:

通過邏輯優化,減少代碼執行。

2、減少中間商:

在過往版本,MDataTable 和 MDataRow 做為中間人,承載著所有類型轉換。

通過編寫直接轉換,不再通過中間人進行轉換,減少轉換的環節。

3、Emit 代替反射:

在類型轉換中,無可避免的大量的使用了反射。

為了替代大量的反射,因此編寫了大量的Emit,導致工作量有點大,但為了性能,這無可避免。

4、減少鎖:

在內部中,有大量用到MDicationary來緩存數據,這是一個自定義實現的線程安全的帶鎖的字典,曾經優化過一次,將通用鎖拆分成了讀寫鎖。

在減少鎖的過程中,對於無需要 Remove 操作或 Foreach 遍歷的全局數據緩存字典,將 MDicationary 換成 Dicationary,避開鎖機制,對併發場景下引發的 Add 異常進行 try

5、並行執行:

對於數據量大的場景,分拆成多線程並行執行。

 

下麵就來重新看一下新的測試結果:

測試環境:

本次測試為.Net Windown 版本,下次再測試.Net Core Linux 版本。

Win11 系統:6核16G記憶體

測試代碼,基礎實體類:

public class SimpleEntity
{
    public int ID { get; set; }
    public Guid MsgID { get; set; }
    public string Name { get; set; }
    public bool IsEnable { get; set; }
    public DateTime CreateTime { get; set; }
}

本次測試結果僅供參考

性能測試對比:

1、實體類轉Json(執行4次):

2、實體類列表(100條)轉Json(執行4次):

3、Json 轉 Dictionary<,> (執行4次)

4、Json 轉 實體類(執行4次)

5、Json 轉 實體類列表100條數據 (執行4次) 

測試結果總結:

1、在首次執行時,CYQ.Data 全面超過了 Newtonsoft.Json,差距明顯,說明 Newtonsoft.Json 首次執行,性能較低,在預熱這一塊沒有優化好。

2、在 Json 轉 Dictionary 方面,CYQ.Data 有全面的優勢,超過 Newtonsoft.Json。

2、在其它轉換的在後續執行中,Newtonsoft.Json 和 CYQ.Data 差距不大,基本持平。

總結:

曾經有人和我說過,CYQ.Data 在 Json 這一塊的轉換性能不強,後來換了 Newtonsoft.Json 去操作 Json 。

那時候可能時機不成熟,要優化,需要重寫的代碼太多了,所以就沒怎麼處理。

直到今年,有個老田同學他自己寫框架了,問了個他框架調用非同步方法無法 try 到異常的問題:

秋天您好,請教您一個問題,您在做框架的時候是如何實現async的異常捕捉和處理的,我這裡支持async的方法後反射到controller里的方法無法正常捕捉到異常,拋出自定義異常會讓整個線程掛掉。

後來這問題解決了之後,我翻了下歷史聊天記錄,發現它曾經建議我在Taurus里把方法的反射換成委托。

從這裡開始,開啟了 Taurus.MVC 框架的全面優化。

然後就涉及做為底層組件的 CYQ.Data,將它進行了全面的性能優化大整改。

於是便有瞭如今性能優越的版本。

版權聲明:本文原創發表於 博客園,作者為 路過秋天 本文歡迎轉載,但未經作者同意必須保留此段聲明,且在文章頁面明顯位置給出原文連接,否則視為侵權。
個人微信公眾號
創業QQ群:617713515
Donation(掃碼支持作者):支付寶:
Donation(掃碼支持作者):微信:
騰訊雲產品福利專區

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 源碼下麵無秘密,這是程式員的口頭禪。對於強大而且設計優秀的Spring框架也是這樣的,在基礎代碼層層堆疊之下,Spring成為了一個非常流行的框架。 ...
  • Go(又稱為Golang)是一門由Google開發的開源編程語言,於2009年首次公開發佈。Go語言被設計用來提高軟體開發的效率和可靠性,在處理大規模系統時表現出色。以下是Go語言的一些特點和優勢: 特點 簡潔易讀:Go語法簡潔清晰,易於閱讀和學習,減少了代碼的複雜性。 併發支持:Go原生支持輕量級 ...
  • 我們將公共的,可利用的代碼進行打包,發佈到github上面,在需要的地方直接go get即可,需要註意的是go get中最小單位是包,如果一發佈的項目里包含多個子包,在go get時,應該精確到小包級別。 將go的項目發到github作成開源公用包 版本:v1.0.0,需要是3位的版本號,不然會報錯 ...
  • 大家好 ,我是R哥。 近兩年 AI 太火了,風靡全球,AI 編程工具也沒有落下,比如微軟的 GitHub Copilot,還有阿裡的通義靈碼,連 JetBrains 系列工具都逼出了自家的 AI 功能。 大家知道我是效率狂人,同樣也是工具狂人,之前給大家分享了不少開發神器,其中也不乏國內的優秀選手, ...
  • 本文深入探討了Java 8引入的全新日期時間API相較於傳統的Date和Calendar類的優勢及實際應用。鑒於Java 8新日期時間API在設計上的先進性和易用性,我們強烈建議開發者積極採納並替換掉陳舊的Date和Calendar類,轉而採用如LocalDate、LocalDateTime、Zon... ...
  • 如果最近您收到了MacOS 14.4的升級提醒,那麼建議你暫時先不要升級! 在x上,Java開發領域的一些大v們,也發現了這個問題,並提醒大家不要升級。 根據Java官方發佈的文章瞭解到,該問題主要是由於macOS上運行的進程可能會訪問受保護記憶體區域中的記憶體。在 macOS 14.4 更新之前,在某 ...
  • 本文介紹基於R語言中的geodetector包,依據多張柵格圖像數據,實現地理探測器(Geodetector)操作的詳細方法~ ...
  • 在一次項目中,在給客戶做系統時,需要調用客戶的系統獲取數據,客戶提供了獲取Token和獲取數據的介面,用戶名和密碼,認證方式是基於Bearer的,通過學習和找資料,提供一個C#示例 一個C#示例 1、傳入語句獲取數據 /// <summary> /// 傳入語句獲取數據 /// </summary> ...
一周排行
    -Advertisement-
    Play Games
  • .Net8.0 Blazor Hybird 桌面端 (WPF/Winform) 實測可以完整運行在 win7sp1/win10/win11. 如果用其他工具打包,還可以運行在mac/linux下, 傳送門BlazorHybrid 發佈為無依賴包方式 安裝 WebView2Runtime 1.57 M ...
  • 目錄前言PostgreSql安裝測試額外Nuget安裝Person.cs模擬運行Navicate連postgresql解決方案Garnet為什麼要選擇Garnet而不是RedisRedis不再開源Windows版的Redis是由微軟維護的Windows Redis版本老舊,後續可能不再更新Garne ...
  • C#TMS系統代碼-聯表報表學習 領導被裁了之後很快就有人上任了,幾乎是無縫銜接,很難讓我不想到這早就決定好了。我的職責沒有任何變化。感受下來這個系統封裝程度很高,我只要會調用方法就行。這個系統交付之後不會有太多問題,更多應該是做小需求,有大的開發任務應該也是第二期的事,嗯?怎麼感覺我變成運維了?而 ...
  • 我在隨筆《EAV模型(實體-屬性-值)的設計和低代碼的處理方案(1)》中介紹了一些基本的EAV模型設計知識和基於Winform場景下低代碼(或者說無代碼)的一些實現思路,在本篇隨筆中,我們來分析一下這種針對通用業務,且只需定義就能構建業務模塊存儲和界面的解決方案,其中的數據查詢處理的操作。 ...
  • 對某個遠程伺服器啟用和設置NTP服務(Windows系統) 打開註冊表 HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\W32Time\TimeProviders\NtpServer 將 Enabled 的值設置為 1,這將啟用NTP伺服器功 ...
  • title: Django信號與擴展:深入理解與實踐 date: 2024/5/15 22:40:52 updated: 2024/5/15 22:40:52 categories: 後端開發 tags: Django 信號 松耦合 觀察者 擴展 安全 性能 第一部分:Django信號基礎 Djan ...
  • 使用xadmin2遇到的問題&解決 環境配置: 使用的模塊版本: 關聯的包 Django 3.2.15 mysqlclient 2.2.4 xadmin 2.0.1 django-crispy-forms >= 1.6.0 django-import-export >= 0.5.1 django-r ...
  • 今天我打算整點兒不一樣的內容,通過之前學習的TransformerMap和LazyMap鏈,想搞點不一樣的,所以我關註了另外一條鏈DefaultedMap鏈,主要調用鏈為: 調用鏈詳細描述: ObjectInputStream.readObject() DefaultedMap.readObject ...
  • 後端應用級開發者該如何擁抱 AI GC?就是在這樣的一個大的浪潮下,我們的傳統的應用級開發者。我們該如何選擇職業或者是如何去快速轉型,跟上這樣的一個行業的一個浪潮? 0 AI金字塔模型 越往上它的整個難度就是職業機會也好,或者說是整個的這個運作也好,它的難度會越大,然後越往下機會就會越多,所以這是一 ...
  • @Autowired是Spring框架提供的註解,@Resource是Java EE 5規範提供的註解。 @Autowired預設按照類型自動裝配,而@Resource預設按照名稱自動裝配。 @Autowired支持@Qualifier註解來指定裝配哪一個具有相同類型的bean,而@Resourc... ...