`

Netty番外话

阅读更多
这一篇不涉及具体的Netty工作原理的内容,只是作为一个导读的内容来引导大家思考为什么要产生像Netty的框架。后面会写一些文章来探讨Netty的工作原理和源码实现。

多线程处理请求的模型

1. Thread per request
这种模型的结构如下:
//一个主控程序产生新的线程去处理逻辑
while(true){
    acceptConnect; //没有连接来就阻塞在这里
    if(hasConnect){
   newThread().start(); //开户一个新的线程去处理请求
}
}

优点:
编程简单,易用于并发量不是很大的情境中。
缺点:
随着线程数目不断增长,服务器的性能也随之下降,因为开启一个线程系统要消耗8KB的内存大小。

2. Thread per request (thread pool)
针对第一种情况,提出了线程池的解决方案,这样线程数目不会随着连接数的增大而线性增加。但是它也存在问题,如果线程数目大,
线程创建和线程上下文切换是一个非常大的问题,如果线程数目少,那么对于大量的请求而言,很可能是存在连接超时的现象。

其实在我们平时常见的通信中,通信会阻塞在两个地方:
一是:接受连接时,socket.accept(),没有连接来就等待;
二是:IO操作地,read(),write(),没有数据就绪就会等待
下面通过Event Driven模型来解决这个问题。

3. Event Driven
这种模型的结构如下:

while(true){
    //所有事件的触发是由操作系统来支持的
    if(hasConnectEvent){ //有连接就执行相应的操作,不会阻塞在这里
    doConnect();
}
if(hasReadData){ //有数据读就绪就执行相应的操作,不会阻塞在这里
    doRead();    //会有一个线程来处理
}
if(hadWriteData){ //有数据写就绪就执行相应的操作,不会阻塞在这里
    doWrite();   //会有一个线程来处理
}
}

这种模型就是所谓的NIO原型。这种模型在一定程序上很大的提高了并发量,但是它也存在自己的极限,那就是在读写线程中处理
速度要什么快,一般而言,线程数量达到100就很不错,如果10w并发量,那么每一个线程就要处理1000个连接,也即是每个连接
处理要什么快,如果是1s,那么不就完了,最后1000个线程要等1000s,10几分钟的时间是受不了的!
分享到:
评论

相关推荐

Global site tag (gtag.js) - Google Analytics