linux修改max user processes limits

说明:
这篇是网上看到的有关修改 max user processes limits,觉得还可以,就保留了下来!稍微加了点东西
具体:
最近新上了一批服务器,内核升级到了 2.6.32 版本,部署完 MySQL 实例后上到线上,直接负载冲到 15,cpu 使用达到 700%。

01:20:01 PM   runq-sz  plist-sz   ldavg-1   ldavg-5  ldavg-15
03:50:01 PM        34      1506     22.95     18.11     11.78

01:20:01 PM     CPU     %user     %nice   %system   %iowait    %steal     %idle
03:50:01 PM     all     95.13      0.00      3.31      0.06      0.00      1.49

当时就有点蒙,io 并不是瓶颈,业务也米有变更,线上的服务器都运行正常,为什么这台新机器就变成这个模样了呢?
最后才发现又是一个 ulimit 的坑啊,之前对于 ulimit -n 已经碰了多次头,这次又差点碰的头破血流,万幸灰度上了 1 台 slave,并没有影响到线上。
这次碰到的问题是 ulimit -u,这个 - u 是做什么用的呢?

core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 514875
max locked memory       (kbytes, -l) 64
max memory size         (kbytes, -m) unlimited
open files                      (-n) 204800
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 10240
cpu time               (seconds, -t) unlimited
max user processes              (-u) 204800
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

可以从上面看出,用来限制 max user processes 的数量的。
但是这个 user processes 是什么呢?
Linux itself has a Max Processes per user limit. This feature allows us to control the number of processes an existing user on the server may be authorized to have
这个 ulimit -u 是用来限制每个用户的最大 processes 数量。如果 ulimit -u 进行了限制那么每个 linux 用户可以派生出来的 process 就会被限制再这个数值之内。
那么这个限制和 MySQL 有什么关系呢,我们看如下的测试。
测试:
首先,在一台服务器上启两个 MySQL 实例,分别限制 max connetcionts=1024 , ulimit -u=1024
然后,在一台服务器上运行类似下面的脚本

for i in `seq 1 2010`
do
    echo $i
    mysqlha_login.sh -h 10.77.7.56 -P 3306 -e'system sleep 60;' &
    mysqlha_login.sh -h 10.77.7.56 -P 3307 -e'system sleep 60;' &
done

当 i 的数值超过 1009 的时候就会出现如下报错
Can’t create a new thread (errno 11); if you are not out of available memory, you can consult the manual for a possible OS-dependent bug
这就是无法再创建出新的 process 了。
如果我们将 ulimit -u 改为 10240,再进行一次测试呢?
User myadmin already has more than ‘max_user_connections’ active connections
报错就变更为我们常见的超过最大连接数的报错了。
so,对于提供长链接的 MySQL 服务,建议都讲这个值调整为 10240 或者更大。对于提供短链接的服务,暂时并没有出现本次发现的错误。
修改:
不同内核参数的默认值也是不同的,请注意。

2.6.18
ore file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 139264
max locked memory       (kbytes, -l) 32
max memory size         (kbytes, -m) unlimited
open files                      (-n) 288000
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 10240
cpu time               (seconds, -t) unlimited
max user processes              (-u) unlimited
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited
2.6.32
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 514875
max locked memory       (kbytes, -l) 64
max memory size         (kbytes, -m) unlimited
open files                      (-n) 204800
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 10240
cpu time               (seconds, -t) unlimited
max user processes              (-u) 1024
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

然后,一般来说,修改 ulimit 的数值,只需要修改 / etc/security/limits.conf 即可,但是这个参数需要修改 / etc/security/limits.d/90-nproc.conf。
至于为什么需要修改这里,请看褚霸的这篇 blog
但是,还有一个问题,这个参数需要在 mysqld 启动之前调整,如果 mysqld 已经启动,再动态调整是无效的。(大家都知道 stop start mysql 是一件比较麻烦的事情,涉及线上业务就更麻烦了)
那么,有没有可以动态调整的方法呢?
echo -n ‘Max processes=SOFT_LIMITS:HARD_LIMITS’ > /proc/pidof mysqld/limits
通过如上命令就可以动态调整已经存在的 mysqld 的 processes 限制了。
附录:
附录 1:centos 6. 可以修改 / etc/security/limits.d/90-nproc.conf
但,centos 5.
并没有 90-nproc.conf 这个文件,我这边是通过修改 / etc/security/limits.conf,在最后添加

  • soft nproc 65535
  • hard nproc 65535
    来实现的
文章作者 明哥
文章地址 https://www.pvcreate.com/index.php/archives/49/
创建时间 2015-01-29
关注订阅 微信订阅号
开源项目 https://gitee.com/lookingdreamer
工具市场 https://gitee.com/lookingdreamer/SPPPOTools
小技巧