写程序做下性能测试都是例行的事情了,一般在普通电脑上测试一下如果比较理想那基本不出什么意外!但世事难料,代码写得不好经常担心CPU不够用,其实写得好但不能完全发挥出CPU资源的优势更是一件悲剧的事情!这次事件已经发生了两回,其实还真的很折磨人的。话不多说回到今天的正题Newtonsoft.Json
vs Protobuf.net
,对于两者的性能我相信大部分人会站在Protobuf.net
这一边,的确Protobuf.net
作为进制序列化比JSON
文本的序列化要高效也是正常事情;但总会有些情况让人难以预料的!接下来看一下测试情况
低置下测试
测试硬件:配置是E3-1230V2 测试用例:返回指定数据量的客户列表信息
Newtonsoft.Json
D:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.18:8080/customers_json/3Bombarding http://192.168.2.18:8080/customers_json/3 with 10000000 request(s) using 100 connection(s) 10000000 / 10000000 [==========================================] 100.00% 1m16s Done!Statistics Avg Stdev Max Reqs/sec 131290.96 14813.10 146691.93 Latency 757.08us 1.13ms 398.02ms HTTP codes: 1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0 others - 0 Throughput: 118.21MB/s
protobuf.net
D:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.18:8080/customers_protobuf/3Bombarding http://192.168.2.18:8080/customers_protobuf/3 with 10000000 request(s) using 100 connection(s) 10000000 / 10000000 [===========================================] 100.00% 1m5s Done!Statistics Avg Stdev Max Reqs/sec 152160.79 14677.95 163191.02 Latency 653.08us 1.10ms 396.02ms HTTP codes: 1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0 others - 0 Throughput: 86.35MB/s
由于数据都是字符类型的字段,所以Protobuf.net
在性能上并没占有多大的优势,不过的确可以节省大量的带宽,大概能节少40%的带宽资源。其实从测试结果看来JSON处理也并没有想像中那么慢,性能差距在20-30%之间,其实还是可以接受的。
高配置下测试
既然在低配置的机器上Protobuf.net
有优势,那高配置的服务器按理也不会存在什么问题。但测试结果告诉我们,Protobuf.net
输给了Newtonsoft.Json
! 测试硬件:配置是E5-2670V2*2 测试用例:返回指定数据量的客户列表信息
获取3个客户信息
JSON
G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_json/3Bombarding http://192.168.2.19:8080/customers_json/3 with 10000000 request(s) using 100 connection(s) 10000000 / 10000000 [============================================] 100.00% 36s Done!Statistics Avg Stdev Max Reqs/sec 271738.73 67774.12 329181.89 Latency 361.86us 4.37ms 3.06s HTTP codes: 1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0 others - 0 Throughput: 244.72MB/s
Protobuf
G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_protobuf/3Bombarding http://192.168.2.19:8080/customers_protobuf/3 with 10000000 request(s) using 100 connection(s) 10000000 / 10000000 [============================================] 100.00% 41s Done!Statistics Avg Stdev Max Reqs/sec 243710.66 28345.63 275334.86 Latency 406.47us 829.25us 394.02ms HTTP codes: 1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0 others - 0 Throughput: 138.26MB/s
获取10个客户信息
JSON
G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_json/10Bombarding http://192.168.2.19:8080/customers_json/10 with 10000000 request(s) using 100 connection(s) 10000000 / 10000000 [============================================] 100.00% 51s Done!Statistics Avg Stdev Max Reqs/sec 196290.74 66381.50 263699.22 Latency 502.81us 4.00ms 3.05s HTTP codes: 1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0 others - 0 Throughput: 513.10MB/s
Protobuf
G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_protobuf/10Bombarding http://192.168.2.19:8080/customers_protobuf/10 with 10000000 request(s) using 100 connection(s) 10000000 / 10000000 [==========================================] 100.00% 1m14s Done!Statistics Avg Stdev Max Reqs/sec 135254.64 24971.37 165490.90 Latency 737.06us 1.24ms 513.03ms HTTP codes: 1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0 others - 0 Throughput: 200.84MB/s
获取20个客户信息
JSON
G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_json/20Bombarding http://192.168.2.19:8080/customers_json/20 with 10000000 request(s) using 100 connection(s) 10000000 / 10000000 [============================================] 100.00% 54s Done!Statistics Avg Stdev Max Reqs/sec 182806.15 37623.75 209487.43 Latency 541.37us 1.48ms 0.90s HTTP codes: 1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0 others - 0 Throughput: 0.89GB/s
Protobuf
G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_protobuf/20Bombarding http://192.168.2.19:8080/customers_protobuf/20 with 10000000 request(s) using 100 connection(s) 10000000 / 10000000 [==========================================] 100.00% 1m50s Done!Statistics Avg Stdev Max Reqs/sec 90249.67 9611.23 102294.37 Latency 1.10ms 1.04ms 518.03ms HTTP codes: 1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0 others - 0 Throughput: 246.07MB/s
随着返回的列表数据越大,Protobuf.net
的响应延时就越高,但服务器的CPU资源占用率比较低。而Newtonsoft.Json
虽然损耗了大量的CPU资源,但它能通过CPU资源可以有效地把并发数量提升起来;当在获取20个客户信息的时候,基本把10Gb的带宽占满并达到180000RPS。Protobuf.net
在CPU资源占用率上来说虽然比'Newtonsoft.Json'要低很多,但面对一个悲剧的事情就是无法把RPS提升上去,在最后的测试结果里落后了Newtonsoft.Json
一倍的RPS.
总结
随着硬件资源大规模化,在测试程序的时候也要考虑这情况,程序无法在高配置资源完全发挥硬件资源的优势这种情况针对我个人而言已经是第二次了,这种事情刚开始真让人感觉到相当无助,因为这真的很难让人接受的事实!其实出现这情况都是程序的某个功能点在多线程并发上出现了拥挤的情况,第一次出现这情况是.net core的ServerGC设置,而这一次看了Protobuf.Net的代码发现有些关键方法静态方法上出现的多对象锁的代码,可能是这些锁导致在更多线程资源使用的时候无法达到一个更好的并发效果。最后在这里提醒一下测试的朋友,程序的性能很重要,但有一点也很重要的就是完全发挥所有硬件资源处理更多的事情。
如果感兴趣这个测试的代码,可以通过以下地址获取:https://github.com/IKende/FastHttpApi/blob/master/WebApi_json_vs_protobuf.zip