一次Linux系统1分钟负载5000+的故障排错

昨天上午查看Zabbix监控界面时,发现其中一台服务器的进程数量和1分钟负载已经达到了一个非常惊人的数量,Zabbix默认报警数值是进程数量在5分钟平均值大于1000,1分钟系统负载5分钟平均值大于5。

先大体列一下服务器的软硬件信息:

服务器硬件:Dell PowerEdge R720, 2 x Intel(R) Xeon(R) CPU E5-2640 v2 @ 2.00GHz;62.87 GB;PERC H710 SAS RAID5

服务器操作系统:Ubuntu 14.04 LTS,内核:3.13.0-24-generic

图1:Zabbix报警信息(Zabbix消息通知设定的是严重(average)级别以上通过Web短信网关发送短信报警):

[img][/img]

图2:Zabbix上触发器的报警条件

[img][/img]

接着不久,就不断有同事反映该服务器响应非常慢,有些应用页面打开很久才出来。由于机房远在天边而且没有远程登录控制台的登录信息(这些信息在客户处),因此只能用xshell通过SSH登录到Linux系统,打开top命令看看系统运行情况,发现当前系统内已经有5800多个进程在运行,其中系统负载(1、5、15分钟)都达到了5400+,但奇怪的是CPU、内存和硬盘IO都并不高,按照常理,如此高的系统负载,CPU和IO等早已经应该是消耗殆尽了,但top显示并没有。

图3.1: Linux系统中的top信息

[img][/img]

7 秒前 上传下载附件 (269.83 KB)

图3.2 通过iostat、vmstat等命令发现磁盘IO并不高,但系统负载却很高

[img][/img]

7 秒前 上传下载附件 (96.88 KB)

有个开发人员说pid为14898的java进程并没有分配这么大的内存,这个进程有问题,要求负责编写该程序的另一个开发人员检查程序,当时我想,一个java进程也不至于把系统负载搞的这么高,一定有别的重要的原因没有发现。我按照往常的方法,先查看一下系统中究竟运行了什么样的程序导致系统内进程这么多,因此执行ps –ef | more,查看一下系统内全部进程的运行情况,结果发现此命令根本没法执行,刚输出了不到一个屏幕就卡死在屏幕上了,赶紧复制一个ssh session,继续执行,简单执行ps,看看能不能执行,结果发现ps输出的内容中有大量的ps进程,此处感想还好ps还能运行只是参数不能加太多了。打开top命令,查看一下一个ps命令对应的pid,用top –p pid打开,发现是Zabbix用户执行的ps命令,瞬间感觉不好,别是因为我之前写的Zabbix脚本中有问题导致ps命令没有退出,才导致的系统一分钟负载这么高。

图4:用top查看zabbix用户的进程信息,top –u zabbix

[img][/img]

之前有同事电话问我系统中有个java进程无法结束,导致某个应用现在有两个java进程该怎么办,我跟他说试试sudo,结果sudo也不好用,root权限也无法杀死。由于当时在家里有事没在公司因此也没去查什么原因。所以此时,我想用kill杀掉zabbix的ps进程时就遇到了同样的问题,发现ps进程根本杀不死。无论是使用什么样的进程信号,TERM还是KILL都不好用。仔细一看,原来这些进程的状态都成了D状态(上图中S显示的那一列)。

关于D状态:D状态是一种特殊的进程状态代码(PROCESS STATE CODES),其英文示意是Uninterruptible sleep (usually IO),意思是不可中断的睡眠(通常是由于IO问题引起的),这个IO可能是多种IO,内存、硬盘、网络、总线都是可能的。既然是D状态,那即便是root用户也无法杀死的,因为这样的进程它已经不接受任何进程信号,所以任何方式都将无法将其杀死,只能重新启动服务器。但这问题还没找到根源,不能草草的下结论。

检查Zabbix的用户参数中设定的脚本和命令行,发现大部分命令行有ps,但并不没有任何问题,因此初步排除Zabbix脚本或命令行中存在的问题,如下图所示:

图5:Zabbix用户参数命令行:

[img][/img]

因此只能用strace命令找出ps -ef进程卡在那里。命令是strace -o strace_psef.log –f ps –ef

图6:通过strace命令找出命令执行中对系统的调用和收到的信号等信息

[img][/img]

通过上图可以发现到open文件/proc/24602/cmdline时遇到了停止(等待),通过cat /proc/24602/cmdline文件发现也无法正确执行,也会卡死。中间发现像netstat,ps -p 24602 –o cmd这种命令都无法使用,甚至ps -p 1 –o cmd都无法显示,由于这些命令都是使用/proc目录下的文件的,因此/proc目录存在问题的可能性非常大,因此继续找原因,继续top -p 24602找出这个进程名称(发现除了top可用以外,pstree同样也是可用的)。

图7.1: ps -p 24602 –o cmd

[img][/img]

图7.2:ps -p 1 –o cmd都无法显示

[img][/img]

7 秒前 上传下载附件 (24.96 KB)

图7.3:附加的疑问,pts数值无法还原至0,

[img][/img]

通过top -p 24602命令发现这个pid为14602的进程也是D状态的

图8:通过top -p 24602找出这个进程名称

[img][/img]

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/90ed6680d374812d34e38121c2c28497.html