先后查看了haproxy,l7sw和lighttpd的 相关源码,无一例外,他们一致认为多路复用是性能最好的服务器架构。事实也确实应该如此,进程的出现一方面就是为了保存任务的执行上下文从而简化应用程序 设计,如果程序的逻辑结构不是很复杂,那么用整个进程控制块来保存执行上下文未免有些大材小用,加上进程调度和其他的一些额外开销,程序设计上的高效很可 能会被执行时的低效所抵消。代价也是有的:程序设计工作将更加具有挑战性。
体系结构选定之后,我们就要考虑更加细节的部分,比如说用什么操作系统,用操作系统提供的那些API。在这方面,前辈们已经做过很多,我们只需要简单的“拿来”即可,如果再去枉费唇舌,简直就是浪费时间,图财害命。High-Performance Server Architecture从根本上分析了导致服务器低效的罪魁祸首:数据拷贝、(用户和内核)上下文切换、内存申请(管理)和锁竞争;The C10K Problem列举并分析了UNIX、Linux甚至是部分Windows为提高服务器性能而设计的一些系统调用接口,这篇文档的难能可贵之处还在于它一致保持更新;Benchmarking BSD and Linux更是通过实测数据用图表的形式把BSD和Linux的相关系统调用的性能直观地陈列在我们眼前,结果还是令人激动的:Linux 2.6的相关系统调用的时间复杂度竟然是O(1)。
简单的总结如下:
- 操作系统采用Linux 2.6.x内核,不仅因为它的高性能,更因为它大开源(这并不是说其他的UNIX或者是BSD衍生物不开源)给程序设计带来的便利,我们甚至可以把服务做到内核空间。
- 多路复用采用epoll的“电平触发”(Level Triggered)模式,必要时可以采用“边缘触发”(Edge Triggered),但要注意防止数据停滞。
- 为避免数据拷贝可以采用sendfile系统调用发送小文件,或者是文件的小部分,注意避免sendfile因磁盘IO而导致的阻塞。
- 如果服务操作设计大量磁盘IO操作,应选用Linux内核提供的异步IO机制,其对应的用户空间库为libaio,注意:这里提到异步IO库并非目前glibc中附带的异步IO实现。
- 如果同时有多个数据需要传输,采用writev/readv来减少系统调用所带来的上下文切换开销,如果数据要写到网络套接字文件描述符,这也能在一定程度上防止网络上出现比较小帧,为此,还可以有选择地开启TCP_CORK选项。
- 实现自己的内存管理,比如说缓存数据,复用常用数据结构等。
- 用多线程替代多进程,线程库当然选择nptl。
- 避免进程/线程间非必要的同步,保持互斥区的短小。
上面这些琐碎的细节在ESR看来可能都是过早优化,他 可能又会建议我们等待硬件的升级。哈哈,提醒还是不无道理的,算法的设计部分,我们更要下大力气,因地制宜地降低算法的时间复杂度。为什么不提空间复杂度 呢?内存的价格还是相对低廉吧,不过还是不要忘记现在的计算机瓶颈多在内存的访问。
有一点需要提醒一下,目前SMP系统和多核心CPU比 较常见,如果还是仅采用单进程(线程)的多路复用模型,那么同一时间将只有一个CPU为这个进程(线程)服务,并不能充分发挥CPU的计算能力,所以需要 至少CPU(CPU核心)数目个进程(线程)来分担系统负担。有一个变通的解决方案:不用修改源码,在服务器上运行两个服务程序的实例,当然这个时候服务 端口应该是不同的,然后在其前端放置负载均衡器将流量和连接平均分配到两个服务端口,可以简单的通过DNAT来实现负载均衡。其实,这个时候我们已经把多 CPU或者是多核系统看成了多个系统组成的集群。
为了提高服务器的性能,单纯的依靠提高单个服务器的处理能力似乎不能奏效,况且配置越高 的服务器花销也就越高,为此人们经常采用服务器集群的方式,通过把计算尽可能地分配到相对比较廉价的机器上单独完成,籍此来提升服务器的整体性能,事实证 明,这种体系结构不仅是切实可行的,而且还能提高服务器的可用性,容错能力也较强。在网络服务器方面,Linux内核中的由国人章文嵩先生设计的IP层负载均衡解决方案LVS比较有名,还有就是工作于应用层的haproxy和刚刚起步的l7sw。
Trackback: http://tb.blog.csdn.net/TrackBack.aspx?PostId=2117021
分享到:
相关推荐
斑马打印机 ZT411 ZT421中文手册
TY-ZT60-0001a 压力传感器样本说明书,详细接线和参数
雁南自弹式sim卡座规格书SIM028-ZT 规格书 datasheet
在Unix下用C编写类Windows菜单-zt .txt 在Unix下用C编写类Windows菜单-zt .txt在Unix下用C编写类Windows菜单-zt .txt 在Unix下用C编写类Windows菜单-zt .txt
一.首先选择适合的无源探测频率 ( )电力电线探测模式,主要应用于交流电力输送系统的电线探测.国内电线频率50Hz.... 1. 使用50Hz频率,主要应用于通常电力系统中。 2. 使用5倍的50Hz频率,主要应用于高压电力系统中,...
零凌电器—安高微电脑温控器操作说明书 型号:AG-305ZT
沃视征途系列-ZT9404监控驱动程序和详细说明及安装步骤
matlab开发-zt1d2savitzkygolaysmoothinganddifferentionfilter的传输形式
变频器说明书大全系列-诚烨ZP6C-ZT9.rar
一个完整的教育类客户管理CRM-ZT0011源码
赠送jar包:zt-exec-1.9.jar; 赠送原API文档:zt-exec-1.9-javadoc.jar; 赠送源代码:zt-exec-1.9-sources.jar; 赠送Maven依赖信息文件:zt-exec-1.9.pom; 包含翻译后的API文档:zt-exec-1.9-javadoc-API文档-...
关于VS.Net2005中串口操作说明(C#)(SerialPort组件) -ZT
赠送jar包:zt-exec-1.9.jar; 赠送原API文档:zt-exec-1.9-javadoc.jar; 赠送源代码:zt-exec-1.9-sources.jar; 赠送Maven依赖信息文件:zt-exec-1.9.pom; 包含翻译后的API文档:zt-exec-1.9-javadoc-API文档-...
WTMDK2101-ZT1 是针对 WTM2101 AI SOC 设计的评估板。 WTMDK2101-ZT1 主要包含 WTM2101-S1 核心板接口,驻极体麦克风接口,音频模块接 口(如 ES8156/ES8311/ES8388/MAX98357 等),USB 串口,耳机接口,电池接口,...
hy-zt-temp 通过 , 创建一个虎牙专题的模板. 安装方式 如果你还没安装 .的话,请安装 npm install -g grunt-init 一旦模板被安装到你的~/.grunt-init/目录中(在Windows平台是%USERPROFILE%.grunt-init\目录),那么就...
2. String Matching Patterns (字符串匹配模式) glob:patthern glob模式,用通配符"*"代表任意长度字符,"?"代表一个字符 regexp:regexp 正则表达式模式,用Javascrīpt正则表达式的形式匹配字符串 ...
将压缩包解压到你需要转换的文件夹下面,转化之前最好先备份。 ... 可以转化这个文件夹以及他下面所有子文件夹的文件 可以设置您不需要转化的文件夹和文件,和需要转化的文件类型 我想这么多 应该够用了 ...
模块具有手动(人工)控制、自动控制、上位机控 制、串口控制四种运行模式,可实现直流电机正、反 转,停止、刹车,调速,可编程运行等。拨码开关切 换手动或自动控制模式,并能够选择手动模式下的 PWM频率