`

Linux系统高负载 MySQL优化

 
阅读更多
Java代码 复制代码 收藏代码
  1.   同时在线访问量继续增大对于1G内存的服务器明显感觉到吃力严重时甚至每天都会死机或者时不时的服务器卡一下这个问题曾经困扰了我半个多月MySQL使用是很具伸缩性的算法,因此你通常能用很少的内存运行或给MySQL更多的被存以得到更好的性能。   
  2.   
  3.   安装好mysql后,配制文件应该在/usr/local/mysql/share/mysql目录中,配制文件有几个,有my-huge.cnf my-medium.cnf my-large.cnf my-small.cnf,不同的流量的网站和不同配制的服务器环境,当然需要有不同的配制文件了。   
  4.   
  5.   一般的情况下,my- medium.cnf这个配制文件就能满足我们的大多需要;一般我们会把配置文件拷贝到/etc/my.cnf 只需要修改这个配置文件就可以了,使用mysqladmin variables extended-status -uroot -p可以看到目前的参数,有3个配置参数是最重要的,即key_buffer_size,query_cache_size,table_cache。   
  6.   
  7.   key_buffer_size只对MyISAM表起作用,key_buffer_size指定索引缓冲区的大小,它决定索引处理的速度,尤其是索引读的速度。一般我们设为16M,实际上稍微大一点的站点 这个数字是远远不够的,通过检查状态值Key_read_requests和 Key_reads,可以知道key_buffer_size设置是否合理。比例key_reads / key_read_requests应该尽可能的低,至少是1:1001:1000更好(上述状态值可以使用SHOW STATUS LIKE ‘key_read%’获得)。 或者如果你装了phpmyadmin 可以通过服务器运行状态看到,笔者推荐用phpmyadmin管理mysql,以下的状态值都是本人通过phpmyadmin获得的实例分析:   
  8.   
  9.   这个服务器已经运行了20天   
  10.   
  11.   key_buffer_size – 128M   
  12.   
  13.   key_read_requests – 650759289  
  14.   
  15.   key_reads - 79112  
  16.   
  17.   比例接近1:8000 健康状况非常好   
  18.   
  19.   另外一个估计key_buffer_size的办法 把你网站数据库的每个表的索引所占空间大小加起来看看以此服务器为例:比较大的几个表索引加起来大概125M 这个数字会随着表变大而变大。   
  20.   
  21.   从4.0.1开始,MySQL提供了查询缓冲机制。使用查询缓冲,MySQL将SELECT语句和查询结果存放在缓冲区中,今后对于同样的SELECT 语句(区分大小写),将直接从缓冲区中读取结果。根据MySQL用户手册,使用查询缓冲最多可以达到238%的效率。   
  22.   
  23.   通过调节以下几个参数可以知道query_cache_size设置得是否合理   
  24.   
  25.   Qcache inserts   
  26.   
  27.   Qcache hits   
  28.   
  29.   Qcache lowmem prunes   
  30.   
  31.   Qcache free blocks   
  32.   
  33.   Qcache total blocks   
  34.   
  35.   Qcache_lowmem_prunes的值非常大,则表明经常出现缓冲不够的情况,同时Qcache_hits的值非常大,则表明查询缓冲使用非常频繁,此时需要增加缓冲大小Qcache_hits的值不大,则表明你的查询重复率很低,这种情况下使用查询缓冲反而会影响效率,那么可以考虑不用查询缓冲。此外,在SELECT语句中加入SQL_NO_CACHE可以明确表示不使用查询缓冲。   
  36.   
  37.   Qcache_free_blocks,如果该值非常大,则表明缓冲区中碎片很多query_cache_type指定是否使用查询缓冲   
  38.   
  39.   我设置:   
  40.   
  41.   QUOTE:   
  42.   
  43.   query_cache_size = 32M   
  44.   
  45.   query_cache_type= 1  
  46.   
  47.   得到如下状态值:   
  48.   
  49.   Qcache queries in cache 12737 表明目前缓存的条数   
  50.   
  51.   Qcache inserts 20649006  
  52.   
  53.   Qcache hits 79060095  看来重复查询率还挺高的   
  54.   
  55.   Qcache lowmem prunes 617913 有这么多次出现缓存过低的情况   
  56.   
  57.   Qcache not cached 189896      
  58.   
  59.   Qcache free memory 18573912  目前剩余缓存空间   
  60.   
  61.   Qcache free blocks 5328 这个数字似乎有点大 碎片不少   
  62.   
  63.   Qcache total blocks 30953  
  64.   
  65.   如果内存允许32M应该要往上加点   
 table_cache指定表高速缓存的大小。每当MySQL访问一个表时,如果在表缓冲区中还有空间,该表就被打开并放入其中,这样可以更快地访问表内容。通过检查峰值时间的状态值Open_tables和Opened_tables,可以决定是否需要增加table_cache的值。如果你发现 open_tables等于table_cache,并且opened_tables在不断增长,那么你就需要增加table_cache的值了(上述状态值可以使用SHOW STATUS LIKE ‘Open%tables’获得)。注意,不能盲目地把table_cache设置成很大的值。如果设置得太高,可能会造成文件描述符不足,从而造成性能不稳定或者连接失败。

  对于有1G内存的机器,推荐值是128-256。

  笔者设置

  QUOTE:

  table_cache = 256

  得到以下状态:

  Open tables 256

  Opened tables 9046

  虽然open_tables已经等于table_cache,但是相对于服务器运行时间来说,已经运行了20天,opened_tables的值也非常低。因此,增加table_cache的值应该用处不大。如果运行了6个小时就出现上述值那就要考虑增大table_cache。

  如果你不需要记录2进制log 就把这个功能关掉,注意关掉以后就不能恢复出问题前的数据了,需要您手动备份,二进制日志包含所有更新数据的语句,其目的是在恢复数据库时用它来把数据尽可能恢复到最后的状态。另外,如果做同步复制( Replication )的话,也需要使用二进制日志传送修改情况。

   log_bin指定日志文件,如果不提供文件名,MySQL将自己产生缺省文件名。MySQL会在文件名后面自动添加数字引,每次启动服务时,都会重新生成一个新的二进制文件。此外,使用log-bin-index可以指定索引文件;使用binlog-do-db可以指定记录的数据库;使用binlog- ignore-db可以指定不记录的数据库。注意的是:binlog-do-db和binlog-ignore-db一次只指定一个数据库,指定多个数据库需要多个语句。而且,MySQL会将所有的数据库名称改成小写,在指定数据库时必须全部使用小写名字,否则不会起作用。

  关掉这个功能只需要在他前面加上#号

  QUOTE:

  #log-bin

  开启慢查询日志( slow query log )

  慢查询日志对于跟踪有问题的查询非常有用。它记录所有查过long_query_time的查询,如果需要,还可以记录不使用索引的记录。下面是一个慢查询日志的例子:

  开启慢查询日志,需要设置参数log_slow_queries、long_query_times、log-queries-not-using-indexes。

  log_slow_queries指定日志文件,如果不提供文件名,MySQL将自己产生缺省文件名。long_query_times指定慢查询的阈值,缺省是10秒。log-queries-not-using-indexes是4.1.0以后引入的参数,它指示记录不使用索引的查询。笔者设置 long_query_time=10

  笔者设置:

  QUOTE:

  sort_buffer_size = 1M

  max_connections=120

  wait_timeout =120

  back_log=100

  read_buffer_size = 1M

  thread_cache=32

  interactive_timeout=120

  thread_concurrency = 4

  参数说明:

  back_log

  要求MySQL能有的连接数量。当主要MySQL线程在一个很短时间内得到非常多的连接请求,这就起作用,然后主线程花些时间(尽管很短)检查连接并且启动一个新线程。back_log值指出在MySQL暂时停止回答新请求之前的短时间内多少个请求可以被存在堆栈中。只有如果期望在一个短时间内有很多连接,你需要增加它,换句话说,这值对到来的TCP/IP连接的侦听队列的大小。你的操作系统在这个队列大小上有它自己的限制。 Unix listen(2)系统调用的手册页应该有更多的细节。检查你的OS文档找出这个变量的最大值。试图设定back_log高于你的操作系统的限制将是无效的。

  max_connections

  并发连接数目最大,120 超过这个值就会自动恢复,出了问题能自动解决

  thread_cache

  没找到具体说明,不过设置为32后 20天才创建了400多个线程而以前一天就创建了上千个线程 所以还是有用的

  thread_concurrency

  #设置为你的cpu数目x2,例如,只有一个cpu,那么thread_concurrency=2

  #有2个cpu,那么thread_concurrency=4

  skip-innodb

  #去掉innodb支持

  Example MySQL config file for medium systems. 

 

QUOTE:

  # Example MySQL config file for medium systems.
  #
  # This is for a system with little memory (32M - 64M) where MySQL plays
  # an important part, or systems up to 128M where MySQL is used together with
  # other programs (such as a web server)
  #
  # You can copy this file to
  # /etc/my.cnf to set global options,
  # mysql-data-dir/my.cnf to set server-specific options (in this
  # installation this directory is /var/lib/mysql) or
  # ~/.my.cnf to set user-specific options.
  #
  # In this file, you can use all long options that a program supports.
  # If you want to know which options a program supports, run the program
  # with the "--help" option.

  # The following options will be passed to all MySQL clients
  [client]
  #password = your_password
  port = 3306
  socket = /tmp/mysql.sock
  #socket = /var/lib/mysql/mysql.sock
  # Here follows entries for some specific programs

  # The MySQL server
  [mysqld]
  port = 3306
  socket = /tmp/mysql.sock
  #socket = /var/lib/mysql/mysql.sock
  skip-locking
  key_buffer = 128M
  max_allowed_packet = 1M
  table_cache = 256
  sort_buffer_size = 1M
  net_buffer_length = 16K
  myisam_sort_buffer_size = 1M
  max_connections=120
  #addnew config
  wait_timeout =120
  back_log=100
  read_buffer_size = 1M
  thread_cache=32
  skip-innodb
  skip-bdb
  skip-name-resolve
  join_buffer_size=512k
  query_cache_size = 32M
  interactive_timeout=120
  long_query_time=10
  log_slow_queries= /usr/local/mysql4/logs/slow_query.log
  query_cache_type= 1
  # Try number of CPU's*2 for thread_concurrency
  thread_concurrency = 4

  #end new config
  # Don't listen on a TCP/IP port at all. This can be a security enhancement,
  # if all processes that need to connect to mysqld run on the same host.
  # All interaction with mysqld must be made via Unix sockets or named pipes.
  # Note that using this option without enabling named pipes on Windows
  # (via the "enable-named-pipe" option) will render mysqld useless!
  #
  #skip-networking

  # Replication Master Server (default)
  # binary logging is required for replication
  #log-bin

  # required unique id between 1 and 2^32 - 1
  # defaults to 1 if master-host is not set
  # but will not function as a master if omitted
  server-id = 1

  # Replication Slave (comment out master section to use this)
  #
  # To configure this host as a replication slave, you can choose between
  # two methods :
  #
  # 1) Use the CHANGE MASTER TO command (fully described in our manual) -
  # the syntax is:
  #
  # CHANGE MASTER TO MASTER_HOST=, MASTER_PORT=,
  # MASTER_USER=, MASTER_PASSWORD= ;
  #
  # where you replace , , by quoted strings and
  # by the master's port number (3306 by default).
  #
  # Example:
  #
  # CHANGE MASTER TO MASTER_HOST='125.564.12.1', MASTER_PORT=3306,
  # MASTER_USER='joe', MASTER_PASSWORD='secret';
  #
  # OR 

 

# 2) Set the variables below. However, in case you choose this method, then
  # start replication for the first time (even unsuccessfully, for example
  # if you mistyped the password in master-password and the slave fails to
  # connect), the slave will create a master.info file, and any later
  # change in this file to the variables' values below will be ignored and
  # overridden by the content of the master.info file, unless you shutdown
  # the slave server, delete master.info and restart the slaver server.
  # For that reason, you may want to leave the lines below untouched
  # (commented) and instead use CHANGE MASTER TO (see above)
  #
  # required unique id between 2 and 2^32 - 1
  # (and different from the master)
  # defaults to 2 if master-host is set
  # but will not function as a slave if omitted
  #server-id = 2
  #
  # The replication master for this slave - required
  #master-host =
  #
  # The username the slave will use for authentication when connecting
  # to the master - required
  #master-user =
  #
  # The password the slave will authenticate with when connecting to
  # the master - required
  #master-password =
  #
  # The port the master is listening on.
  # optional - defaults to 3306
  #master-port =
  #
  # binary logging - not required for slaves, but recommended
  #log-bin

  # Point the following paths to different dedicated disks
  #tmpdir = /tmp/
  #log-update = /path-to-dedicated-directory/hostname

  # Uncomment the following if you are using BDB tables
  #bdb_cache_size = 4M
  #bdb_max_lock = 10000

  # Uncomment the following if you are using InnoDB tables
  #innodb_data_home_dir = /var/lib/mysql/
  #innodb_data_file_path = ibdata1:10M:autoextend
  #innodb_log_group_home_dir = /var/lib/mysql/
  #innodb_log_arch_dir = /var/lib/mysql/
  # You can set .._buffer_pool_size up to 50 - 80 %
  # of RAM but beware of setting memory usage too high
  #innodb_buffer_pool_size = 16M
  #innodb_additional_mem_pool_size = 2M
  # Set .._log_file_size to 25 % of buffer pool size
  #innodb_log_file_size = 5M
  #innodb_log_buffer_size = 8M
  #innodb_flush_log_at_trx_commit = 1
  #innodb_lock_wait_timeout = 50

  [mysqldump]
  quick
  max_allowed_packet = 16M

  [mysql]
  no-auto-rehash
  # Remove the next comment character if you are not familiar with SQL
  #safe-updates

  [isamchk]
  key_buffer = 20M
  sort_buffer_size = 20M
  read_buffer = 2M
  write_buffer = 2M

  [myisamchk]
  key_buffer = 20M
  sort_buffer_size = 20M
  read_buffer = 2M
  write_buffer = 2M

  [mysqlhotcopy]
  interactive-timeout 

 

  同时在线访问量继续增大对于1G内存的服务器明显感觉到吃力严重时甚至每天都会死机或者时不时的服务器卡一下这个问题曾经困扰了我半个多月MySQL使用是很具伸缩性的算法,因此你通常能用很少的内存运行或给MySQL更多的被存以得到更好的性能。

  安装好mysql后,配制文件应该在/usr/local/mysql/share/mysql目录中,配制文件有几个,有my-huge.cnf my-medium.cnf my-large.cnf my-small.cnf,不同的流量的网站和不同配制的服务器环境,当然需要有不同的配制文件了。

  一般的情况下,my- medium.cnf这个配制文件就能满足我们的大多需要;一般我们会把配置文件拷贝到/etc/my.cnf 只需要修改这个配置文件就可以了,使用mysqladmin variables extended-status -uroot -p可以看到目前的参数,有3个配置参数是最重要的,即key_buffer_size,query_cache_size,table_cache。

  key_buffer_size只对MyISAM表起作用,key_buffer_size指定索引缓冲区的大小,它决定索引处理的速度,尤其是索引读的速度。一般我们设为16M,实际上稍微大一点的站点 这个数字是远远不够的,通过检查状态值Key_read_requests和 Key_reads,可以知道key_buffer_size设置是否合理。比例key_reads / key_read_requests应该尽可能的低,至少是1:100,1:1000更好(上述状态值可以使用SHOW STATUS LIKE ‘key_read%’获得)。 或者如果你装了phpmyadmin 可以通过服务器运行状态看到,笔者推荐用phpmyadmin管理mysql,以下的状态值都是本人通过phpmyadmin获得的实例分析:

  这个服务器已经运行了20天

  key_buffer_size – 128M

  key_read_requests – 650759289

  key_reads - 79112

  比例接近1:8000 健康状况非常好

  另外一个估计key_buffer_size的办法 把你网站数据库的每个表的索引所占空间大小加起来看看以此服务器为例:比较大的几个表索引加起来大概125M 这个数字会随着表变大而变大。

  从4.0.1开始,MySQL提供了查询缓冲机制。使用查询缓冲,MySQL将SELECT语句和查询结果存放在缓冲区中,今后对于同样的SELECT 语句(区分大小写),将直接从缓冲区中读取结果。根据MySQL用户手册,使用查询缓冲最多可以达到238%的效率。

  通过调节以下几个参数可以知道query_cache_size设置得是否合理

  Qcache inserts

  Qcache hits

  Qcache lowmem prunes

  Qcache free blocks

  Qcache total blocks

  Qcache_lowmem_prunes的值非常大,则表明经常出现缓冲不够的情况,同时Qcache_hits的值非常大,则表明查询缓冲使用非常频繁,此时需要增加缓冲大小Qcache_hits的值不大,则表明你的查询重复率很低,这种情况下使用查询缓冲反而会影响效率,那么可以考虑不用查询缓冲。此外,在SELECT语句中加入SQL_NO_CACHE可以明确表示不使用查询缓冲。

  Qcache_free_blocks,如果该值非常大,则表明缓冲区中碎片很多query_cache_type指定是否使用查询缓冲

  我设置:

  QUOTE:

  query_cache_size = 32M

  query_cache_type= 1

  得到如下状态值:

  Qcache queries in cache 12737 表明目前缓存的条数

  Qcache inserts 20649006

  Qcache hits 79060095  看来重复查询率还挺高的

  Qcache lowmem prunes 617913 有这么多次出现缓存过低的情况

  Qcache not cached 189896   

  Qcache free memory 18573912  目前剩余缓存空间

  Qcache free blocks 5328 这个数字似乎有点大 碎片不少

  Qcache total blocks 30953

  如果内存允许32M应该要往上加点 


分享到:
评论

相关推荐

    Linux系统高负载 MySQL数据库彻底优化

    同时在线访问量继续增大对于1G内存的服务器明显感觉到吃力。本文介绍了MySQL使用很具伸缩性的算法,因此你通常能用很少的内存运行或给MySQL更多的被存以得到更好的性能。

    mysql的linux高负载下优化.pdf

    mysql的linux高负载下优化.pdf

    linux 高负载下mysql数据库优化

    同时在线访问量继续增大 对于1G内存的服务器明显感觉到吃力严重时甚至每天都会死机 或者时不时的服务器卡一下 这个问题曾经困扰了我半个多月MySQL使用是很具伸缩性的算法,因此你通常能用很少的内存运行或给MySQL更...

    Linux系统下Web服务器的搭建与设计.pdf

    同时还对服务器进行简单优化,相对降低服务器的系统资源占用率,提高服务器的负载能力,使服务器实现更加低消耗、高性能的目标。 Linux 系统的优势在于它本身具有很好的安全性和可靠性,以及非常丰富的开发工具等...

    MySQL8.0参考手册.pdf

    * 高可用性:MySQL 支持多种高可用性解决方案,例如主从复制、负载均衡等,可以确保数据库的高可用性和可靠性。 3. MySQL 8.0 新特性 MySQL 8.0 版本引入了一些新的特性和改进,例如: * 改进的性能优化算法 * ...

    Linux运维从入门到高级全套案例v3.rar

    3 Linux系统安装 4 Linux学习技巧 2. Linux系统篇…… 2.1 Linux系统管理… 2.1.1 Linux目录初识 2.1.2 Linux常用命令 2.1.3 Linux用户权限 2.1.4Limx网络配置 3. Linux服务篇 Linux服务部署 3.1.1构建NTP时间服务器...

    C++ Qt 基于数据库Mysql学生信息管理系统.zip

    performance_schema:自MySQL 5.5版本引入,用于收集服务器性能数据,帮助诊断和优化系统性能。 test(非必要):默认提供的测试数据库,通常用于学习和实验,生产环境中可考虑删除。 sys(自MySQL 5.7版本):...

    基于Python+Django+Vue+Mysql前后端分离的图书管理系统,图书系统,图书出版系统,管理系统.zip

    MySQL通过高效的缓存机制、查询优化器以及对硬件资源的有效利用,保证了在高负载情况下的稳定性和快速响应。它支持水平扩展(如通过分片、复制等技术)和垂直扩展(如增加硬件资源),以应对大规模数据存储和高并发...

    集群好书《高性能Linux服务器构建实战》 试读章节下载

    2.6.2 优化系统资源 2.6.3 优化Varnish参数 2.7 Varnish的常见应用实例 2.7.1 利用Varnish实现图片防盗链 2.7.2 利用Varnish实现静态文件压缩处理 2.8 本章小结 第3章 Memcached应用实战 3.1 ...

    基于Flask的项目审批系统(Bootstrap+Mysql).zip

    MySQL通过高效的缓存机制、查询优化器以及对硬件资源的有效利用,保证了在高负载情况下的稳定性和快速响应。它支持水平扩展(如通过分片、复制等技术)和垂直扩展(如增加硬件资源),以应对大规模数据存储和高并发...

    基于ThinkPHP5.1+Mysql+Layui PHP台账管理系统.zip

    MySQL通过高效的缓存机制、查询优化器以及对硬件资源的有效利用,保证了在高负载情况下的稳定性和快速响应。它支持水平扩展(如通过分片、复制等技术)和垂直扩展(如增加硬件资源),以应对大规模数据存储和高并发...

    基于mysql+mycat搭建稳定高可用集群负载均衡主备复制读写分离操作

    数据库性能优化普遍采用集群方式,oracle集群软硬件投入昂贵,今天花了一天时间搭建基于mysql的集群环境。 主要思路 简单说,实现mysql主备复制–>利用mycat实现负载均衡。 比较了常用的读写分离方式,推荐mycat,...

    基于flask与MySQL完成的音乐库管理系统.zip

    MySQL通过高效的缓存机制、查询优化器以及对硬件资源的有效利用,保证了在高负载情况下的稳定性和快速响应。它支持水平扩展(如通过分片、复制等技术)和垂直扩展(如增加硬件资源),以应对大规模数据存储和高并发...

    一个基于NodeJS Express Bootstrap Mysql 个人博客系统.zip

    performance_schema:自MySQL 5.5版本引入,用于收集服务器性能数据,帮助诊断和优化系统性能。 test(非必要):默认提供的测试数据库,通常用于学习和实验,生产环境中可考虑删除。 sys(自MySQL 5.7版本):...

    该系统是基于Activiti5工作流引擎采用了SSM+Mysql实现的一个学生请假系统.zip

    performance_schema:自MySQL 5.5版本引入,用于收集服务器性能数据,帮助诊断和优化系统性能。 test(非必要):默认提供的测试数据库,通常用于学习和实验,生产环境中可考虑删除。 sys(自MySQL 5.7版本):...

    基于C#试题库管理系统(MySQL).zip

    performance_schema:自MySQL 5.5版本引入,用于收集服务器性能数据,帮助诊断和优化系统性能。 test(非必要):默认提供的测试数据库,通常用于学习和实验,生产环境中可考虑删除。 sys(自MySQL 5.7版本):...

    Linux运维从入门到高级全套案例v3

    3.1. 1 构建NTP时间服务器 25 3.1. 2 构建DHCP服务器 27 3.1. 3 搭建Samba服务器 29 ...6. Linux下高并发系统内核优化 122 7. Nginx负载均衡机制及常见问题 124 8. Linux运维职业规划 127 9. Linux运维面试总结 127

    基于Koa2+MySQL博客系统.zip

    MySQL通过高效的缓存机制、查询优化器以及对硬件资源的有效利用,保证了在高负载情况下的稳定性和快速响应。它支持水平扩展(如通过分片、复制等技术)和垂直扩展(如增加硬件资源),以应对大规模数据存储和高并发...

    基于django+mysql的商品推荐系统.zip

    MySQL通过高效的缓存机制、查询优化器以及对硬件资源的有效利用,保证了在高负载情况下的稳定性和快速响应。它支持水平扩展(如通过分片、复制等技术)和垂直扩展(如增加硬件资源),以应对大规模数据存储和高并发...

    基于snort base mysql 的入侵检测系统.zip

    MySQL通过高效的缓存机制、查询优化器以及对硬件资源的有效利用,保证了在高负载情况下的稳定性和快速响应。它支持水平扩展(如通过分片、复制等技术)和垂直扩展(如增加硬件资源),以应对大规模数据存储和高并发...

Global site tag (gtag.js) - Google Analytics