CYQ.Data 操作 Json 性能测试:对比 Newtonsoft.Json
前言:在 CYQ.Data 版本更新的这么多年,中间过程的版本都在完善各种功能。
基于需要支持或兼容的代码越多,很多时候,常规思维,都把相关功能完成,就结束了。
实现过程中,无法避免的会用到大量的反射、锁等对性能有所影响的逻辑代码。
CYQ.Data 从V5.9 版本开始,开始大规模的优化调整代码,目前稳定在 V5.9.2.7 版本,下面看一下更新记录
版本更新记录:
794:新增:FireBird 数据库支持:增删改查与分页。(2023-12-18)【V5.9.0.0 - V5.9.0.2】
795:新增:DaMeng 达梦数据库支持:增删改查与分页。(2023-12-20)
796:优化:FireBird 数据结构获取与转化的精准化。(2023-12-21)
797:优化:DaMeng 数据结构获取与转化的精准化。(2023-12-22)
798:新增:DaMeng : AppConfig.DB.IsDaMengUpper 配置,默认表名字段转大写。(2023-12-23)
799:新增:FireBird:AppConfig.DB.IsFireBirdUpper 配置,默认表名字段转大写。(2023-12-23)
800:优化:Postgre: AppConfig.DB.IsPostgreLower 配置,默认表名字段转小写。(2023-12-23)
801:新增:KingBaseES 人大金仓数据库支持:增删改查与分页。(2023-12-24)
802:优化:KingBaseES 数据结构获取与转化的精准化。(2023-12-25)
803:优化:CYQ.Data.Orm.SimpleOrm 基类。(2024-01-01)
804:新增:分布式锁类:DistributedLock。(2024-01-02)
805:优化:调整注意:CacheManage 名称变更分布式缓存:DistributedCache。(2024-01-04)
806:优化:调整注意:JsonHelper 名称空间由CYQ.Data.Tool 变更为:CYQ.Data.Json。(2024-01-04)
807:优化:增加输出标准库:.net standard2.1 版本。(2024-01-10)
-------------------------------------------------------------------------------------
808:优化:AppConfig.WebRootPath 路径的获取。(2024-01-13)【V5.9.0.3】
809:优化:SimpleOrmBase(2024-01-13)
810:优化:增加 AppConfig.IsDebugMode 只读属性,优化 WebRootPath 属性取值。
811:优化:内部IP获取。
-------------------------------------------------------------------------------------
812:修复:AppConfig.IsDebugMode .net 下取值。(2024-01-21)【V5.9.0.4】
813:新增:分布式锁增加幂等性方法。(2024-01-21)
814:修复:V5.9.0.3优化的内部IP获取,在Docker容器不支持的异常。 【V5.9.0.5】
-------------------------------------------------------------------------------------
815:优化:XHtmlAction 加载 html 速度,无实体&xxxx;内容时不加载dtd。(2024-01-25)【V5.9.0.6】
816:优化:AppConfig:IsNetCore 和 IsWeb 和 WebRoot 三个属性取值。(2024-01-25)
817:移除:【分布式锁】转移到 Taurus.DistributedLock 插件库中(增加数据库锁)。(2024-01-25)
818:优化:SimpleOrmBase 增加构造函数重载,允许异常时不写日志【以支持分布式数据库锁】。(2024-01-26)
819:优化:AppConfig 调整几个不常用的配置项【DefaultCacheTime、IsEnumToInt、JsonEscape】。(2024-01-26)
820:优化:DistributedCache 开放几个批量接口,以供分布式锁插件调用。(2024-01-27)
821:修复:SimpleOrmBase 构造函数忘了赋值链接。(2024-01-29)【V5.9.0.7】
-------------------------------------------------------------------------------------
822:优化:XHtmlAction 加载性能:优化缓存转化,提升2次访问速度。(2024-01-31)【V5.9.1.0】
823:优化:XHtmlAction 加载性能:优化取消DTD依赖、提升首次访问速度。(2024-02-01)
-------------------------------------------------------------------------------------
824:优化:XHtmlAction 调整方法或属性:SaveToCache 更名为RefleshCache 等。(2024-02-04)【V5.9.1.1】
825:移除:IField 扩展。(2024-02-04)
826:优化:MDataRow GetIndex,提升取值性能。(2024-02-04)
827:优化:ConvertTool 相关方法,提升转化性能。(2024-02-04)
-------------------------------------------------------------------------------------
版本简要:通过大范围使用 Emit 来替换反射,提升性能。
828:新增:CYQ.Data.Emit(内部)优化反射代码,提升性能。【V5.9.2】
829:新增:JsonOp 参数,调整(JsonHelper、MDataRow、MDataTable)ToJson 重载方法参数。(2024-02-06)
830:优化:JsonHelper 实体转化性能:涉及:ToJson(),ToList<T>()。(2024-02-05、2024-02-22)
831:优化:MDataTable 实体列表转化性能:涉及:CreateFrom。(2024-02-22)
832:优化:MDataRow 实体转化性能:涉及:CreateFrom。。(2024-02-22)
-------------------------------------------------------------------------------------
版本简要:对 XHtmlAction 进行各种简化和优化,以供 Taurus.Mvc 便于使用。
833:移除:XHtmlAction SetFor 系列方法(该方法使用门槛较高) 。(2024-02-23)【V5.9.2.1】
834:移除:XHtmlAction SetForeach(MDataTable dataSource, string idOrName, SetType setType) 重载方法 。(2024-02-23)
835:移除:XHtmlAction GetByID,GetByName 两个方法,其 Get 方法已可替代以上两者。(2024-02-23)
836:移除:XHtmlAction IsCurrentLang,IsUseLangSplit 两个成员属性。(2024-02-23)
837:移除:XHtmlBase LoadFromCache、SetCDATA、ClearCDATA 等方法。
838:优化:XHtmlAction SetForeach 方法优化,支持绑定其它数据源。(2024-02-23)
839:优化:XHtmlAction LoadData 方法优化,效果变更为批量对KeyValue赋值。(2024-02-23)
840:优化:XHtmlAction 加载:去除 http://www.w3.org/1999/xhtml 名称空间。2024-02-24)【V5.9.2.2】
-------------------------------------------------------------------------------------
版本简要:持续优化,提升性能。
840:优化:ConvertTool、ReflectTool 相关方法。(2024-02-26)【V5.9.2.3】
841:优化:MDataRow Load(json)。(2024-02-26)
842:优化:MDataTable ToList(t) 内部方法。(2024-02-26)
845:优化:JsonHelper(2024-02-27)
-------------------------------------------------------------------------------------
846:变更:将 AppConfig 中的一些和配置无关的只读属性转移到AppConst中。(2024-02-29)【V5.9.2.4】
847:移除:LocalEnvironment 内部类。(2024-02-29)
848:优化:ConvertTool.ChangeReaderToList<T> 内部类。(2024-02-29)
849:新增:开放:CYQ.Data.Emit.EmitPreheat 类,允许处理 Emit 委托预热。(2024-02-29)
-------------------------------------------------------------------------------------
版本简要:针对 Taurus.MVC 进行全方位细节进行性能优化。【V5.9.2.6】
850:新增:HttpRequest 扩展方法:GetHeader、GetForm、GetQuery、GetCookie 等。(2024-03-04)
851:优化:XHtmlAction OutXml 等多项细节优化。(2024-03-05)
-------------------------------------------------------------------------------------
852:新增 HttpPostedFileCreator.Create 用于创建 HttpPostedFile 实例。(因 Taurus RpcProxy 添加)(2024-03-07)【V5.9.2.7】
853:新增:开放几个和实体转换相关的 Emit 接口。(2024-03-08)
854:修正:JsonHelper.ToJson 未处理 IgnoreJson 属性标记的问题、其它优化。(2024-03-08)优化简介:
在整个优化过程,主要分为:
1、逻辑优化:
通过逻辑优化,减少代码执行。2、减少中间商:
在过往版本,MDataTable 和 MDataRow 做为中间人,承载着所有类型转换。
通过编写直接转换,不再通过中间人进行转换,减少转换的环节。3、Emit 代替反射:
在类型转换中,无可避免的大量的使用了反射。
为了替代大量的反射,因此编写了大量的Emit,导致工作量有点大,但为了性能,这无可避免。4、减少锁:
在内部中,有大量用到MDicationary来缓存数据,这是一个自定义实现的线程安全的带锁的字典,曾经优化过一次,将通用锁拆分成了读写锁。
在减少锁的过程中,对于无需要 Remove 操作或 Foreach 遍历的全局数据缓存字典,将 MDicationary 换成 Dicationary,避开锁机制,对并发场景下引发的 Add 异常进行 try。5、并行执行:
对于数据量大的场景,分拆成多线程并行执行。
下面就来重新看一下新的测试结果:
测试环境:
本次测试为.Net Windown 版本,下次再测试.Net Core Linux 版本。
Win11 系统:6核16G内存
测试代码,基础实体类:
public class SimpleEntity
{
public int ID { get; set; }
public Guid MsgID { get; set; }
public string Name { get; set; }
public bool IsEnable { get; set; }
public DateTime CreateTime { get; set; }
}本次测试结果仅供参考
性能测试对比:
1、实体类转Json(执行4次):
2、实体类列表(100条)转Json(执行4次):
3、Json 转 Dictionary (执行4次)
4、Json 转 实体类(执行4次)
5、Json 转 实体类列表100条数据 (执行4次)
测试结果总结:
1、在首次执行时,CYQ.Data 全面超过了 Newtonsoft.Json,差距明显,说明 Newtonsoft.Json 首次执行,性能较低,在预热这一块没有优化好。
2、在 Json 转 Dictionary 方面,CYQ.Data 有全面的优势,超过 Newtonsoft.Json。
2、在其它转换的在后续执行中,Newtonsoft.Json 和 CYQ.Data 差距不大,基本持平。
总结:
曾经有人和我说过,CYQ.Data 在 Json 这一块的转换性能不强,后来换了 Newtonsoft.Json 去操作 Json 。
那时候可能时机不成熟,要优化,需要重写的代码太多了,所以就没怎么处理。
直到今年,有个老田同学他自己写框架了,问了个他框架调用异步方法无法 try 到异常的问题:
秋天您好,请教您一个问题,您在做框架的时候是如何实现async的异常捕捉和处理的,我这里支持async的方法后反射到controller里的方法无法正常捕捉到异常,抛出自定义异常会让整个线程挂掉。后来这问题解决了之后,我翻了下历史聊天记录,发现它曾经建议我在Taurus里把方法的反射换成委托。
从这里开始,开启了 Taurus.MVC 框架的全面优化。
然后就涉及做为底层组件的 CYQ.Data,将它进行了全面的性能优化大整改。
于是便有了如今性能优越的版本。
来源:https://www.cnblogs.com/cyq1162/p/18080172
免责声明:由于采集信息均来自互联网,如果侵犯了您的权益,请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容,谢谢合作!
页:
[1]