系统性能优化
注:源自弯曲评论《性能优化的方法和技巧》阅读笔记
性能优化的目标是什么?不外乎两个:
时间性能:减小系统执行的时间
空间性能:减小系统占用的空间
一、代码优化
Cache的相关摘要:
(1)Cache Level:通常来说L1、L2的Cache集成在CPU里,L3的Cache放在CPU外;
(2)Cache Size:它决定你能把多少东西放到Cache里,有Size就有竞争,就有替换,才有所谓优化的空间;
(3)Cache Type:I-Cache(指令),D-Cache(数据),TLB(MMU的Cache);
代码层次的优化主要从以下两个角度考虑问题:
(1)I-Cache优化:精简code path,简化调用关系,减少冗余代码等等;
(2)D-Cache优化:减少D-Cache的miss数量,增加有效数据访问。
以下是一些技巧,可供参考:
(1)Code adjacency(把相关代码放在一起)
这里有两层含义:一是相关源文件要放在一起;二是相关函数在object文件里面,也应该相邻。
这样,可执行文件被夹在到内存里时,函数位置也是相邻的,同事还符合模块化编程的要求:高内聚,低耦合。
(2)Cache line alignment(cache对齐)
对齐Cache以减少潜在的一次读写,但这可能意味着内存的浪费,需要从空间和时间两方面衡量。
(3)Branch prediction(分支预测)
如果能预测那段代码有更高的执行概率,就能减少跳转次数。
(4)Data prefetch(数据预取)
由CPU自动完成。
(5)Register parameters(寄存器参数)
(6)Lazy computation(延时计算)
最近不用的变量,不要急着去初始化(意味着可能执行复杂的构造),如果某个分支跳出了函数,这些动作就浪费了。
COW(copy-on-write)就是一种延时计算的技术。
(7)Early computation(提前计算)
有些变量,计算一次就够了,任何加减乘除都会消耗CPU指令,尽量使用常数,而不是24*60*60来表示一天的秒数。
(8)Inline(内联函数)
(9)Macro(宏定义)
(10)Allocation on stack(局部变量)
避免在栈上申请大数组,其初始化和销毁的代价很高。
(11)Per-cpu data structure(非共享数据结构)
避免共享量的锁,在thread local里,多核情况下使用局部变量会带来好处。
(12)Reduce call path or call trace(减少函数调用层次)
(13)Read&write split(读写分离)
(14)Recude duplicated code(减少冗余代码)
其中,(1)(6)(7)(8)(9)(10)(11)(12)(14)这些优化方式最为常见。
二、工具优化
“工欲善其事,必先利其器”,如果没有工具的支持,性能优化难以实施,谁也不知道哪些地方是严重影响性能的主要矛盾。
使用性能优化的工具,需要考虑以下问题:
(1)使用工具是否需要重新执行编译?
(2)工具本身对测量结果的影响:工具对性能的影响必须在一个可接受的范围以内。
工具能解决的问题:
(1)建立性能基线,以作对比;
(2)帮助定位性能瓶颈;
(3)帮助验证优化方案;
性能测试工具一般由这么几种:
(1)收集CPU的性能计数;
(2)利用编译器的功能,在函数入口和出口加回调函数;
(3)在代码中加入时间测量点。
在Linux下,通常会用到的有:
(1)Oprofile
它已经加入Linux内核代码库,但通常需要重新编译内核,参考如下
http://oprofile.sourceforge.net/news/
http://people.redhat.com/wcohen/Oprofile.pdf
(2)KFT and Gprof
KFT是kernel的一个patch,只对kernel有效;Gprof是gcc里面的一个工具,只对用户空间的程序有效。这两个工具都需要重新编译代码,它们都用到了gcc里面的finstrument-functions选项。编译时会在函数入口,出口加回调函数,而且inline函数也会改成非inline的。它的工作原理可以参考:
http://blog.linux.org.tw/~jserv/archives/001870.html
http://blog.linux.org.tw/~jserv/archives/001723.html
http://elinux.org/Kernel_Function_Trace
http://www.network-theory.co.uk/docs/gccintro/gccintro_80.html
三、系统优化
从系统层面去优化系统往往有更为明显的效果,优化之前,可以思考,是否能够通过扩展系统来达到提高性能的目的:
(1)Scale up:使用更强的硬件;
(2)Scale out:使用更多的组件;
如果升级硬件的方法就能解决问题,为什么还要使用修改代码,调整架构这样大风险的举措呢?(需要考虑成本)
以下是一些常用的系统优化的方法:
(1)Cache
Cache干什么?保存已经执行过的结果。
Cache为什么有效?避免已计算过的开销,获取更快的访问。
Cache的难点在哪里?一是快速匹配;二是Cache容量有效,需要较好的替换策略;
Cache在哪些情况下有效?时间局部性。即当前计算的结果,后续有可能使用到,如果没有时间局部性,反而对架构有害。
(2)Lazy Computing
理念就是,不要做多余的事情,最常见的例子就是COW(copy-on-write):
http://en.wikipedia.org/wiki/Copy-on-write
COW干什么?写时复制。
COW为什么有效?节省内存复制时间,均匀内存分配时间。
COW的难点在哪里?一是引用计数的使用;二是确认哪些内存是可以共享的。
(3)read ahead/pre-fetch预读
http://en.wikipedia.org/wiki/Readahead
预读干什么?提前准备所需要的数据。
预读为什么有效?减少等待内存的时间,相当于把多个操作集合成一个。
预读在哪些情况下有效?空间局部性。
(4)Asynchronous异步
http://en.wikipedia.org/wiki/Asynchronous_I/O
异步干什么?异步是一种通信方式,请求与应答分离。
异步为什么有效?消除等待时间。
异步的难点是什么?如何实现分布式状态机,如何使用回调,使异步时间到达后继续执行。
异步在哪些情况下有效?状态之间不能有强依赖关系。
(5)Polling轮询
http://en.wikipedia.org/wiki/Polling_(computer_science)
(6)Static memory pool(内存池)
http://en.wikipedia.org/wiki/Static_memory_allocation
内存池干什么?提前分配内存以获取更好的性能,只是适应性可能会降低,并可能造成内存浪费。
内存池为什么有效?避免重复内存申请、释放开销。
内存池的难点是什么?分配多大的内存池,如何避免浪费都是需要考虑的问题。
内存池在哪些情况下有效?一是固定大小的内存需求,二是快速的分配与释放需求。
四、总结
性能优化只是系统的一个方面,它可能会和系统的其他要求有冲突,比如
可读性:性能优化不能影响可读性,谁愿意维护不怎么漂亮的代码;
模块化:性能优化往往需要打破模块的边界,想想这是否值得;
可移植:隔离硬件相关的代码,尽量使用统一的API;
可维护:许多性能优化的技巧,会导致后来维护代码的人崩溃;
需要在性能优化和上述的几个要求之间做出tradeoff,不能一意孤行。
分享到:
相关推荐
Linux系统性能优化思路和优化方法,Linux系统性能优化思路和优化方法
系统性能优化解决方案.docx
在给出Hadoop系统基本框架的基础上,阐述了MapReduce并行计算框架优化、作业调度优化、HDFS性能优化、HBase性能优化和Hadoop功能增强等研究现状,分析已有技术的优势和不足,并探讨了未来的研究方向.
混凝土泵车泵送主液压泵变量控制系统性能优化,左帅,李艾民,本文阐述了混凝土泵车在建筑施工中的用途以及泵送系统在泵车中的重要性。作为泵车匹配控制技术实施的前提条件,现用泵送主液压泵
系统性能优化是个很宽泛的命题, 本文从前台-中间件-后台 三个层面进行简要介绍了如何分析系统慢的原因, 并简要给出解决方向。 希望对新人有所帮助
#资源达人分享计划#
"电动汽车电机制动 EHB复合制动系统性能优化问题" 电动汽车电机制动 EHB复合制动系统性能优化问题是当前电动汽车技术领域中的一个重要研究方向。随着石油资源的日益紧缺和汽车尾气对环境的破坏日益增加,世界各国都...
从几个方面描述以as400作为数据库的应用系统的性能优化方法以及工具的使用
Linux系统性能优化经验.pdfLinux系统性能优化经验.pdf
操作系统性能优化
Linux 系统性能优化思路和优化方法.docx
BS应用系统性能优化,包括高速缓冲方案,预编译处理(普通预编译和批处理预编译)
动力锂电池组热管理系统性能优化研究.
web数据库应用系统性能优化
Linux 文件系统性能优化, 采用不同的算法, 不同的文件系统, 应对平时的 存储业务
Android性能优化:ANR问题解析 crash监控方案 启动速度与执行效率优化 内存优化 耗电优化 网络传输与数据存储优化 APK大小优化
软件工程与系统性能优化.pptx
web系统性能优化参考.pdf
K3数据库索引及系统性能优化解决方案(具体应用篇); 此文件经过整理及个人实践可用
IMA平台多核系统性能优化讨论。IEEE的DASC论文。