由mysql引起的高服务器负载

时间:2013-11-15 13:27:59

标签: mysql magento ubuntu-13.04

我们正在运行VPS并遇到由mysql服务器引起的高负载。目前我们无法找到这个问题的原因,因此我希望有人能指出我正确的方向。

VPS有4个cpus和4GB(18/11 EDIT:现在8GB)的RAM可用。磁盘信息不可用,但我相信它们不是最快的。在这个VPS上,我们运行1个magento CE 1.7.0.2安装,20个网上商店和8个wordpress安装(连接到magento系统)。我们在magento系统中安装了一些自定义扩展。我们使用Ubuntu 13.04和Nginx 1.2.6,mysql 5.5.34,PHP 5.4.9,varnishd 3.0.4并使用APC作为操作码cacher。

跑步时:

top - 13:58:21 up 17:51,  2 users,  load average: 4.40, 4.09, 3.91
Tasks: 119 total,   3 running, 116 sleeping,   0 stopped,   0 zombie
%Cpu(s): 94.0 us,  3.5 sy,  0.0 ni,  2.0 id,  0.2 wa,  0.0 hi,  0.0 si,  0.3 st
KiB Mem:   4049220 total,  3101744 used,   947476 free,   253548 buffers
KiB Swap:  1044476 total,    22324 used,  1022152 free,  1442356 cached
PID USER      PR  NI  VIRT  RES  SHR S  %CPU %MEM    TIME+  COMMAND
22378 mysql     20   0 3439m 588m 7888 S 224.0 14.9  73:21.99 mysqld
24650 eemeega6  20   0  532m  56m  28m S  26.0  1.4   0:11.25 php5-fpm
24658 eemeega6  20   0  534m  57m  27m S  25.8  1.5   0:02.80 php5-fpm
24649 eemeega6  20   0  529m  58m  33m S  25.4  1.5   0:12.95 php5-fpm
24652 eemeega6  20   0  532m  61m  33m R  22.2  1.5   0:05.00 php5-fpm
24659 eemeega6  20   0  538m  59m  25m R  16.6  1.5   0:00.83 php5-fpm
24661 eemeega6  20   0  533m  55m  27m S  16.2  1.4   0:00.81 php5-fpm
24648 eemeega6  20   0  535m  65m  34m S  15.4  1.7   0:14.46 php5-fpm
24653 eemeega6  20   0  536m  64m  32m S  11.8  1.6   0:04.55 php5-fpm
24662 eemeega6  20   0  533m  49m  21m S   6.2  1.3   0:00.31 php5-fpm
1236 nobody    20   0  731m 369m  76m S   1.0  9.4   6:38.74 varnishd
22478 www-data  20   0 90532  10m 1044 S   0.4  0.3   0:07.56 nginx
10 root      20   0     0    0    0 S   0.2  0.0   2:29.32 rcu_sched
247 root      20   0     0    0    0 S   0.2  0.0   1:20.05 jbd2/dm-0-8`

我们的my.cnf文件包含以下值:

[client]
port        = 3306
socket      = /var/run/mysqld/mysqld.sock

[mysqld_safe]
socket      = /var/run/mysqld/mysqld.sock
nice        = 0

user        = mysql
pid-file    = /var/run/mysqld/mysqld.pid
socket      = /var/run/mysqld/mysqld.sock
port        = 3306
basedir     = /usr
datadir     = /var/lib/mysql
tmpdir      = /tmp
lc-messages-dir = /usr/share/mysql
skip-external-locking
bind-address        = 127.0.0.1

key_buffer      = 64M
max_allowed_packet  = 1M
thread_stack        = 192K
thread_cache_size       = 8

myisam-recover         = BACKUP
max_connections        = 50
table_cache            = 2048
table_definition_cache = 1024
#thread_concurrency     = 10
thread_cache_size       = 24
wait_timeout        = 60
interactive_timeout = 60

query_cache_limit   = 1M
query_cache_size        = 64M

log_error = /var/log/mysql/error.log
log_slow_queries    = /var/log/mysql/mysql-slow.log
long_query_time = 8
#log-queries-not-using-indexes = /var/log/mysql/mysql-not-indexes.log

expire_logs_days    = 10
max_binlog_size         = 100M

#InnoDB
innodb_buffer_pool_size = 1280M
innodb_additional_mem_pool_size = 32M
innodb_log_buffer_size = 1M
innodb_thread_concurrency = 8
innodb_lock_wait_timeout = 60

[mysqldump]
quick
quote-names
max_allowed_packet  = 16M

[mysql]
#no-auto-rehash # faster start of mysql but no tab completition

[isamchk]
key_buffer      = 16M

!includedir /etc/mysql/conf.d/

我们的输出来自mysqltuner.pl:

[--] Reads / Writes: 97% / 3%
[--] Total buffers: 1.4G global + 2.7M per thread (50 max threads)
[OK] Maximum possible memory usage: 1.6G (40% of installed RAM)
[OK] Slow queries: 0% (0/1M)
[OK] Highest usage of available connections: 42% (21/50)
[OK] Key buffer size / total MyISAM indexes: 64.0M/35.4M
[OK] Key buffer hit rate: 99.8% (902K cached / 1K reads)
[!!] Query cache efficiency: 1.2% (16K cached / 1M selects)
[OK] Query cache prunes per day: 0
[OK] Sorts requiring temporary tables: 0% (0 temp sorts / 739K sorts)
[!!] Joins performed without indexes: 129
[OK] Temporary tables created on disk: 5% (56K on disk / 1M total)
[OK] Thread cache hit rate: 99% (21 created / 16K connections)
[OK] Table cache hit rate: 24% (940 open / 3K opened)
[OK] Open file limit used: 9% (378/4K)
[OK] Table locks acquired immediately: 100% (4M immediate / 4M locks)
[OK] InnoDB data size / buffer pool: 339.7M/1.2G

-------- Recommendations -----------------------------------------------------
General recommendations:
    Run OPTIMIZE TABLE to defragment tables for better performance
    Adjust your join queries to always utilize indexes
Variables to adjust:
    query_cache_limit (> 1M, or use smaller result sets)
    join_buffer_size (> 128.0K, or always use indexes with joins)

我们运行了超过24小时的mysql,并根据mysqltuner和tuning-primer使用了优化的大多数设置。使用修复和优化功能来优化所有数据库。

不幸的是,mysql正在交换到磁盘,因此我认为CPU负载很高。

我希望有人能指出我找到交换/高负荷原因的正确方向。我们没有经历过很慢的日志查询(仅在重新索引magento时)。

如果有人需要其他信息,请问我。

[溶液]:

所以基本上我们通过关闭php.ini中的持久连接解决了这个问题:mysql.allow_persistent = Off 我们注意到mysql的CPU使用率下降了。 Tuning-prmier不再抱怨我们的应用程序没有关闭他们的连接。我们确实有一些改进,因为并非所有查询都正确使用索引,但现在这个修复程序可以帮助我们保持服务器的运行。

亲切的问候, 砂光机。

3 个答案:

答案 0 :(得分:1)

我发现服务器性能可以通过各种方式“升级”,其中一些是:

  1. 确定让MySQL浏览所有数据所需的内存量,同时提供已执行SQL查询的现金。 您可以阅读所有与内存相关的内容hereunderstand how it works。之后,您可以Enabling Large Page Support

  2. 我发现您可以通过启用APC来提高性能,在那里您可以真正了解它如何改善您的效果。 另请查看this

  3. 使用varnish,但这里有一个很长的故事要输入。归结为它需要一个非常好的配置才能完美地工作。

  4. 如果您仍然遇到问题,请尝试使用Xdebug找出阻碍每个进程的内容。 你可以从一开始就做到最后一个,因为你的MySQL会尝试执行你要求的所有内容,但一次只能执行1个进程。 因此,它将存储它无法在内存中执行的每个进程,如果发生分配,它将溢出你的记忆。

  5. 我的结论是,有多少php / mysql相关的东西(你的服务器需要的时间/资源),你可以通过从你的现金(Varnish,APC,MySQL mem)获得它可以重复使用,它的连接越多可以在不创建高服务器负载的情况下处理。

答案 1 :(得分:0)

桑德

不确定服务器的东西,虽然在magento工作时发现了一些有用的东西,但你可能想看一下。

一些托管公司提供高质量的Magento托管解决方案和优化的服务器,以确保最佳的Magento性能。以下是您可能会考虑的一些示例:

  • Simplehelix
  • Nexcess
  • Peer1Hosting
  • Zerolag

此外,我读过有关使用大数据和客户访问(大型数据库事务)的magento集群,这是在Web,数据库和文件系统级别完成的。

以下是指南:

http://www.severalnines.com/blog/how-cluster-magento-nginx-and-mysql-multiple-servers-high-availability

还有一些简单但有用的提示:

  • 启用js,css文件合并
  • 关闭日志
  • 启用编译
  • 设置索引器cron

我相信wordpress也必须有相同的东西。

希望以上可以帮助一点,如果不是完全。

答案 2 :(得分:0)

你检查过你的可用空间吗?我们有一天会遇到一些问题,因为magento会创建巨大的log txt文件。检查你的magento网站,他们已经从Developer-> Log Settings中禁用了日志错误。没有限制这些文件有多大!至少那是我所知道的.. 希望对你有所帮助。 干杯!