`
blackbeans
  • 浏览: 140712 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Redis如何处理客户端连接

阅读更多

【转载】http://blog.nosqlfan.com/html/4153.html

本文主要介绍了 Redis 处理客户端连接的一些内部实现机制,包括连接处理、超时、缓冲区等一系列内容。

注:本文所述内容基于 Redis2.6 及以上版本。

连接的建立

Redis 通过监听一个 TCP 端口或者 Unix socket 的方式来接收来自客户端的连接,当一个连接建立后,Redis 内部会进行以下一些操作:

  • 首先,客户端 socket 会被设置为非阻塞模式,因为 Redis 在网络事件处理上采用的是非阻塞多路复用模型。
  • 然后为这个socket 设置 TCP_NODELAY 属性,禁用 Nagle 算法
  • 然后创建一个 readable 的文件事件用于监听这个客户端 socket 的数据发送

当客户端连接被初始化后,Redis 会查看目前的连接数,然后对比配置好的 maxclients 值,如果目前连接数已经达到最大连接数 maxclients 了,那么说明这个连接不能再接收,Redis 会直接返回客户端一个连接错误,并马上关闭掉这个连接。

服务端处理顺序

如果有多个客户端连接上 Redis,并且都向 Redis 发送命令,那么 Redis 服务端会先处理哪个客户端的请求呢?答案其实并不确定,主要与两个因素有关,一是客户端对应的 socket 对应的数字的大小,二是 kernal 报告各个客户端事件的先后顺序。

Redis 处理一个客户端传来数据的步骤如下:

  • 它对触发事件的 socket 调用一次 read(),只读一次(而不是把这个 socket 上的消息读完为止),是为了防止由于某个别客户端持续发送太多命令,导致其它客户端的请求长时间得不到处理的情况。
  • 当然,当这一次 read() 调用完成后,它里面无论包含多少个命令,都会被一次性顺序地执行。这样就保证了对各个客户端命令的公平对待。

关于最大连接数 maxclients

在 Redis2.4 中,最大连接数是被直接硬编码在代码里面的,而在2.6版本中这个值变成可配置的。maxclients 的默认值是 10000,你也可以在 redis.conf 中对这个值进行修改。

当然,这个值只是 Redis 一厢情愿的值,Redis 还会照顾到系统本身对进程使用的文件描述符数量的限制。在启动时 Redis 会检查系统的 soft limit,以查看打开文件描述符的个数上限。如果系统设置的数字,小于咱们希望的最大连接数加32,那么这个 maxclients 的设置将不起作用,Redis 会按系统要求的来设置这个值。(加32是因为 Redis 内部会使用最多32个文件描述符,所以连接能使用的相当于所有能用的描述符号减32)。

当上面说的这种情况发生时(maxclients 设置后不起作用的情况),Redis 的启动过程中将会有相应的日志记录。比如下面命令希望设置最大客户端数量为100000,所以 Redis 需要 100000+32 个文件描述符,而系统的最大文件描述符号设置为10144,所以 Redis 只能将 maxclients 设置为 10144 – 32 = 10112。

$ ./redis-server --maxclients 100000
[41422] 23 Jan 11:28:33.179 # Unable to set the max number of files limit to 100032 (Invalid argument), setting the max clients configuration to 10112.

所以说当你想设置 maxclients 值时,最好顺便修改一下你的系统设置,当然,养成看日志的好习惯也能发现这个问题。

具体的设置方法就看你个人的需求了,你可以只修改此次会话的限制,也可以直接通过sysctl 修改系统的默认设置。如:

ulimit -Sn 100000 # This will only work if hard limit is big enough.
sysctl -w fs.file-max=100000

输出缓冲区大小限制

对于 Redis 的输出(也就是命令的返回值)来说,其大小经常是不可控的,可能是一个简单的命令,能够产生体积庞大的返回数据。另外也有可能因为执行命令太多,产生的返回数据的速率超过了往客户端发送的速率,这时也会产生消息堆积,从而造成输出缓冲区越来越大,占用过多内存,甚至导致系统崩溃。

所以 Redis 设置了一些保护机制来避免这种情况的出现,这些机制作用于不同种类的客户端,有不同的输出缓冲区大小限制,限制方式有两种:

  • 一种是大小限制,当某一个客户端的缓冲区超过某一大小时,直接关闭掉这个客户端连接
  • 另一种是当某一个客户端的缓冲区持续一段时间占用空间过大时,也直接关闭掉客户端连接

对于不同客户端的策略如下:

  • 对普通客户端来说,限制为0,也就是不限制,因为普通客户端通常采用阻塞式的消息应答模式,如:发送请求,等待返回,再发请求,再等待返回。这种模式通常不会导致输出缓冲区的堆积膨胀。
  • 对于 Pub/Sub 客户端来说,大小限制是32m,当输出缓冲区超过32m时,会关闭连接。持续性限制是,当客户端缓冲区大小持续60秒超过8m,也会导致连接关闭。
  • 而对于 Slave 客户端来说,大小限制是256m,持续性限制是当客户端缓冲区大小持续60秒超过64m时,关闭连接。

上面三种规则都是可配置的。可以通过 CONFIG SET 命令或者修改 redis.conf 文件来配置。

输入缓冲区大小限制

Redis 对输入缓冲区大小的限制比较暴力,当客户端传输的请求大小超过1G时,服务端会直接关闭连接。这种方式可以有效防止一些客户端或服务端 bug 导致的输入缓冲区过大的问题。

Client 超时

对当前的 Redis 版本来说,服务端默认是不会关闭长期空闲的客户端的。但是你可以修改默认配置来设置你希望的超时时间。比如客户端超过多长时间无交互,就直接关闭。同理,这也可以通过 CONFIG SET 命令或者修改 redis.conf 文件来配置。

值得注意的是,超时时间的设置,只对普通客户端起作用,对 Pub/Sub 客户端来说,长期空闲状态是正常的。

另外,实际的超时时间可能不会像设定的那样精确,这是因为 Redis 并不会采用计时器或者轮训遍历的方法来检测客户端超时,而是通过一种渐近式的方式来完成,每次检查一部分。所以导致的结果就是,可能你设置的超时时间是10s,但是真实执行的时间是超时12s后客户端才被关闭。

CLIENT 命令

Redis 的 CLIENT 命令能够实现三种功能:检查连接的状态,杀掉某个连接以及为连接设置名字。

CLIENT LIST 命令能够获取当前所有客户端的状态,使用方法如下:

redis 127.0.0.1:6379> client list
addr=127.0.0.1:52555 fd=5 name= age=855 idle=0 flags=N db=0 sub=0 psub=0 multi=-1 qbuf=0 qbuf-free=32768 obl=0 oll=0 omem=0 events=r cmd=client
addr=127.0.0.1:52787 fd=6 name= age=6 idle=5 flags=N db=0 sub=0 psub=0 multi=-1 qbuf=0 qbuf-free=0 obl=0 oll=0 omem=0 events=r cmd=ping

如上面命令的输出可知,目前此 Redis 有两个客户端连接,每一行表示一个连接的各项信息:

  • addr: 客户端的TCP地址,包括IP和端口
  • fd: 客户端连接 socket 对应的文件描述符句柄号
  • name: 连接的名字,默认为空,可以通过 CLIENT SETNAME 设置
  • age: 客户端存活的秒数
  • idle: 客户端空闲的秒数
  • flags: 客户端的类型 (N 表示普通客户端,更多类型见 http://redis.io/commands/client-list)
  • omem: 输出缓冲区的大小
  • cmd: 最后执行的命令名称

你可以查看 CLIENT LIST 的文档来具体查看所有输出的含义。

当你通过上面命令获取到客户端列表后,就可以通过 CLIENT KILL 命令来杀死指定的连接了。CLIENT KILL 的参数就是上面的 addr 值。

如上面提到的 CLIENT SETNAME 和 CLIENT GETNAME 可以用来为一个连接设置一个名字。

参考来源:http://redis.io/topics/clients

 

分享到:
评论

相关推荐

    redis客户端连接工具 RedisDesktopManager

    redis客户端连接工具,RedisDesktopManager方便连接redis处理和查看数据

    redis_client, 一种高性能的Dart/非阻塞Redis客户端.zip

    redis_client, 一种高性能的Dart/非阻塞Redis客户端 Dart 客户端 一种高性能的Dart/非阻塞Redis客户端。客户端经过良好测试,包括 UTF-8 支持。由于所有操作都是异步的,它们返回了未来的,以便更好地处理异步操作。...

    Redis 客户端连接

    Redis 客户端连接 Redis 通过监听一个 TCP 端口或者 Unix socket 的方式来接收来自客户端的连接,当一个连接建立后,Redis 内部会进行以下一些操作: 首先,客户端 socket 会被设置为非阻塞模式,因为 Redis 在网络...

    Redis的.net客户端StackExchange.Redis.zip

    StackExchange.Redis,这是redis 的.net客户端之一。Redis是一个开源的内存数据存储,可以用来做数据库,缓存或者消息代理服务。目前有不少人在使用 ServiceStack.Redis这个.net客户端,但是这个的最新版本目前已经变成...

    去Redis的客户端-Golang开发

    Redigo Redigo是Redis数据库的Go客户端。 具有类似于Print的API,并支持所有Redis命令。 流水线,包括流水线交易。 发布/订阅。 连接池。 Sc Redigo Redigo是Redis数据库的Go客户端。 具有类似于Print的API,并支持...

    Jedis:一个小型的redis java客户端-开源

    支持的功能包括排序、连接处理、操作任何类型值的命令、操作字符串值的命令、操作哈希的命令、操作列表的命令、操作集合的命令、操作排序集的命令、操作流的命令、事务、流水线、发布/订阅、持久性控制命令、远程...

    Redis集群弱/空密码问题整改

    客户端连接配置需要修改为新密码,并将客户端密码进行加密处理,客户端加密方式见第3部分。 2.空密码整改 使用redis安装用户,在命令行连接上redis集群后,执行命令:config set requirepass 【自定义的强密码】,...

    redis-awk:awk 的 redis 客户端绑定(尤其是 gawk)

    介绍Redis 客户端绑定, awk的 GNU 实现。 它的特点包括无全局变量污染具有可变长度参数列表的方便函数,尽管有限支持多个redis连接警告!!! 由于awk/gawk不是为处理二进制数据而设计的,因此在 Redis 服务器中...

    jedis:一个小巧而理智的redis Java客户端

    连接处理 在任何类型的值上运行的命令 对字符串值进行操作的命令 对哈希操作的命令 在列表上操作的命令 在集合上操作的命令 对排序集进行操作的命令 在流上运行的命令 交易次数 流水线 发布/订阅 持久性控制命令 ...

    NewLife.Redis:高性能Redis客户端,支持.NETCore.NET4.0.NET4.5,为大数据与消息队列而特别优化,线上单应用日均100亿调用量

    NewLife.Redis 是一个Redis客户端组件,以高性能处理大数据实时计算为目标。 Redis协议基础实现Redis/RedisClient位于,本库为扩展实现,主要增加列表结构、哈希结构、队列等高级功能。 源码: Nuget:NewLife....

    aredis:用于Redis的异步管道Java客户端-开源

    重要功能包括用于存储对象的数据处理程序API,用于有效存储Java对象的OPTI_JAVA_HANDLER,内置gzip压缩,用于消息传递的订阅API,对Lua脚本的支持,基于密钥哈希的分片,在常规同步应用程序中使用的将来结果,连接池...

    jedis:一个轻巧而又理智的Redis Java客户端

    连接处理 在任何类型的值上运行的命令 对字符串值进行操作的命令 在哈希上运行的命令 在列表上操作的命令 在集合上操作的命令 对排序集进行操作的命令 在流上运行的命令 交易次数 流水线 发布/订阅 持久性控制命令 ...

    掌握Redis:从安装到高效数据处理的核心原理与技巧

    此外,文档还讨论了Redis的IO多路复用机制,这是Redis处理大量并发客户端连接的关键技术。对于高级用户,文档提供了几个重要的Redis命令,如keys和scan,以及它们在大数据量环境下的使用注意事项。这些命令对于管理...

    node-basic-redis-factory:用于nodejs的基本Redis客户端工厂,用于处理url字符串(和其他一些东西)

    基本Redis工厂这个模块应该使从连接字符串创建redis客户端实例更加容易。 它本身不需要安装redis因此用户可以决定要加载的版本。 此模块“同步”运行,因此您有机会在与创建客户端的事件循环相同的事件循环周期中,...

    redux:R的Redis客户端

    还原 redux提供了与Redis的接口。 提供两个接口; 一个低级接口(允许执行几乎没有接口的任意Redis命令)和一个具有与数百个Redis命令都匹配的API的高级... 错误处理:每个Redis错误都会变成R错误。 redux还提供了的

    redis-async-rs:使用Tokio的Redis的Rust客户端

    重新同步 使用Tokio和Rust的期货创建异步Redis客户端。发行版该API目前是低级的,并且可能会随时更改。 最初,我专注于单服务器Redis实例,另一个长期目标是支持Redis集群。 这将使实现更加复杂,因为它需要路由,并...

    Java开发面试-Redis专区

    在面试中,可能会涉及到如何使用Java客户端连接Redis服务器,如何进行数据的读写、删除、更新等操作,以及如何处理Redis的连接池和异常情况等问题。此外,面试官还可能会问到如何与Spring框架集成使用Redis等问题。...

    fred.rs:基于Future和Tokio的Rust的Redis客户端

    基于和Rust的Redis客户端,支持PubSub命令,集群式Redis部署等。 安装 带。 cargo add fred 特征 支持集群式Redis部署。 具有多个退避策略的可选内置重新连接逻辑。 发布-订阅界面。 支持ElastiCache,包括TLS...

    Redis 集群解决方案 Codis.zip

    server)ZooKeepercodis-proxy 是客户端连接的 Redis 代理服务, codis-proxy 本身实现了 Redis 协议, 表现得和一个原生的 Redis 没什么区别 (就像 Twemproxy), 对于一个业务来说, 可以部署多个 codis-proxy, codis-...

    异步 redis client.rar

    Redis是单线程的吗? 其实这么说不完全正确,我们知道Redis是一个Key-...Redis单线程如何处理那么多并发客户端连接? 这里就要扯到NIO多路复用模型了,由于本篇主要是Redis的学习记录,这里等Netty的时候再详细学习。

Global site tag (gtag.js) - Google Analytics