单客户端的服务器流程
首先考虑只有一个客户端请求服务的情况,服务器需要先开启一个Socket端口监听连接
请求,然后接受一个客户连接,接着读取网络数据处理并发回结果,最后还要关闭网络连接。用传统的Socket函数描述,整个网络服务过程经历了bind、
listen、accept、receive、send、close几个步骤,其中receive和send经历多次循环。由于receive、send
等函数都是阻塞式的,没有完成接收(发送)就会等待而不往下执行,所以无法实现同时向多个客户端提供服务。
单一客户端循环
fork方式实现并行
既然单个客户端会在收发数据的时候阻塞整个程序的执行,一个简单的实现并行处理的方法很
容易想到——创建多个进程(或者线程),分别服务不同的客户端。这就是fork方式的基本思路:主进程被创建之后,开启和监听端口,每每有请求的连接建
立,都fork一个子进程来负责处理,主进程可以继续等待下一个客户端请求。对于每个被创建出来的子进程,都可以独立地接收和发送数据,执行服务器逻辑,
完成操作关闭连接之后,子进程被销毁,资源被操作系统回收。
通过fork实现多客户端
用一个比喻阐述fork方式的服务器就是:你
(主进程)只负责接受生产订单,然后雇人
(fork子进程)执行生产任务
(服务器逻辑),交付产品之后将其解雇
(销毁子进程)。
fork方式是最简单的网络服务器实现方式,它有着显著的缺点:fork模式大量地创建
和销毁系统进程会造成巨大的系统开销。操作系统在创建进程的时候需要分配资源,复制父进程内存数据,而处理完毕后销毁进程时又需要回收内存释放资源资源,
再加上大量进程存在时,系统的进程调度也会造成不小的额外开销。当然它也有显著的优点:所有客户端服务进程相互隔离互不干扰,一个进程的意外崩溃不会影响
到其他进程的正常工作,对于像Web服务这样要求高度稳定、互不干扰的情况十分适合。
著名的Apache服务器至今仍在使用这种方式实现服务,就是在Apache中被称作prefork的工作方式。当然,实际用于生产环境的服务器稍微复杂一些,Apache的prefork还实现了初始进程数量控制,延缓销毁进程等技术以提升并发访问承载力。
worker方式
fork方式中进程提供的服务是一次性的,和客户端连接断开后就会销毁,这样整个服务器
会同时有大量的进程需要创建和销毁。是否可以回收完成服务的进程,并让他们对新的客户连接提供服务呢?这就是worker方式。统计数据证明worker
方式是相当值得使用的:一般工作的网络服务器,并发请求中大约有60%到80%是处于连接发起和等待响应状态,只有很少的部分是已经建立连接,正在服务
的;而且并发访问量在短时间内是相对稳定的,很难想象服务器会遇到这一秒连接数量50,下一秒连接数量5000的情况,据此可以认为,只要有少量长期提供
服务的进程或者线程就足以应对大量的并发访问。
worker方式首先创建一个独立的worker管理进程来负责创建和管理worker
进程,称作worker管理器。然后主进程监听和接受请求,并把任务交给worker管理器负责。worker管理器接到任务之后,会在它维护的多个
worker进程中找到一个空闲的来处理这个任务。worker进程负责具体的数据收发,服务器逻辑的执行。完成任务关闭连接之后,worker进程不是
被销毁,而是通知worker管理器已经完成工作,处于空闲状态。worker管理器会考虑将下一个任务交给它。
多客户端worker方式
用比喻阐述worker方式的服务器就是:你
(主进程)只负责接受产品订单,请一个管家
(worker管理器)负责打理生产事务,管家会长期雇佣若干工人
(worker进程),你将生产任务交给管家,管家就找一个没事干的工人生产
(执行服务器逻辑),工人完成任务后不会被解雇
(销毁进程),管家会被下一个生产任务交给他。
worker方式实现服务器较之fork方式有不小的改进,虽然设计起来更加复杂,但和
带来的收效相比是值得的。难点主要在于worker管理器的设计,为了有效的应对访问压力的变化,worker管理器需要能动态地创建和销毁worker
进程,以便在访问高峰时提供更多的服务进程,访问低谷时占用更少的系统资源,并且还要能够发现并销毁出现错误僵死的worker。
worker方式的优点显而易见,缺点倒是也有不少。worker的软肋在于
worker管理器进程,假如这个进程出现错误崩溃,那么整个服务器就宕机了。Apache从2.0版开始提供worker模式供选择,作为生产服务
器,Apache同时使用多线程和多进程结合的方式。以worker模式启动之后,Apache会启动多个worker管理器进程,每个worker管理
器会创建多个worker线程
来负责具体请求。这样的设计一方面能利用更轻量级的线程机制降低worker的系统开销,方便worker管理器设计,另一方面通过增加worker管理器的冗余,提升抗风险能力——即使一个worker管理器崩溃,服务依然不会中断。
event方式
如果多个客户端交互信息量很大的话,服务器逻辑不得不大量使用同步锁定和进程间通信机制,大大增加了额外的系统开销,也造成许多死锁的风险。lighttpd服务器另辟蹊径,化整为零,利用Linux系统事件通知和异步网络IO操作的方式实现一个单线程的Web服务器。
分享到:
相关推荐
进程服务器模型和线程服务器模型 进程服务器模型和线程服务器模型
Simple Client-Server Demo 简单的客户端服务器模型 用C语言写的,用套接字建立连接。
异步服务器模型,异步选择服务器模型等介绍,学习资料!
分析了 COM组件技术 ,阐述了 COM组件的特点和结构 ,探讨了 COM组件的客户Π 服务器模型
基于java的开发源码-UDP服务器模型源代码.zip 基于java的开发源码-UDP服务器模型源代码.zip 基于java的开发源码-UDP服务器模型源代码.zip 基于java的开发源码-UDP服务器模型源代码.zip 基于java的开发源码-UDP服务器...
多路IO复用并发服务器模型 ppt 信息安全 产品开发实践 课件
介绍常见几种服务器的开发模型以及核心代码实现
一种更安全的Web服务器模型设计及实现,蒋军强,李丽娟,阐述了Web服务器安全设计原则, 同时指出了Web服务器的安全问题多由用户权限过大, 进程重叠所致. 在基于进程隔离的策略上, 提出了一种�
通信服务器模型开发示例,附测试客户端
多路IO复用并发服务器模型d````````````````
rt-thread 操作系统下TCP并发服务器,及多线程TCP服务器
iocp三层架构服务器模型 iocp三层架构服务器模型 iocp三层架构服务器模型 iocp三层架构服务器模型
select模型是网络编程里面一个非常基础的并发模型,它适合windows,linux和嵌入式tcp/ip协议栈,这个代码是我自己编写的select服务器模型,可以作为标准模板使用
Linux下TCP/IP协议CS服务器模型 采用服务端接受客户端消息并转发的模式实现客户间通信 客户端运行后输入setip192.168.xx.xx字符串以选择发送对象
☆网云IOCP服务器模型支持库
服务器模型的比较.pdf
基于JAVA的UDP服务器模型源代码