"服务不可用"怎么排查?5招教你轻松搞定!
下面是线上机器的cpu使用率,可以看到从4月8日开始,随着时间cpu使用率在逐步增高,最终使用率达到100%导致线上服务不可用,后面重启了机器后恢复。
![](https://filescdn.proginn.com/2343018560dbe6e355d7528bf654be7a/57cb26672d7b66695ff334b057a59f7a.webp)
1、排查思路
简单分析下可能出问题的地方,分为5个方向:
系统本身代码问题 内部下游系统的问题导致的雪崩效应 上游系统调用量突增 http请求第三方的问题 机器本身的问题
2、开始排查
查看日志,没有发现集中的错误日志,初步排除代码逻辑处理错误。 首先联系了内部下游系统观察了他们的监控,发现一起正常。可以排除下游系统故障对我们的影响。 查看provider接口的调用量,对比7天没有突增,排除业务方调用量的问题。 查看tcp监控,TCP状态正常,可以排除是http请求第三方超时带来的问题。 查看机器监控,6台机器cpu都在上升,每个机器情况一样。排除机器故障问题。即通过上述方法没有直接定位到问题。
3、解决方案
1、重启了6台中问题比较严重的5台机器,先恢复业务。保留一台现场,用来分析问题。
2、查看当前的tomcat线程pid。
![](https://filescdn.proginn.com/518f22465aa2c33834c0ea43024cd791/8965d0efcb309a5fdca92081f3182244.webp)
3、查看该pid下线程对应的系统占用情况。top -Hp 384
![](https://filescdn.proginn.com/c247d9dff2d19f32e4cc90099a23d846/0ef73c765e4a9113697fa3e6d1d0cb92.webp)
4、发现pid 4430
4431
4432
4433
线程分别占用了约40%的cpu
5、将这几个pid转为16进制,分别为114e
114f
1150
1151
6、下载当前的java线程栈 sudo -u tomcat jstack -l 384>/1.txt
7、查询5中对应的线程情况,发现都是gc线程导致的
![](https://filescdn.proginn.com/47484987c3cb3c3dbc936de2b1c7b45f/403520369479f02c4f613b49d4a69d49.webp)
8、dump java堆数据
sudo -u tomcat jmap -dump:live,format=b,file=/dump201612271310.dat 384
9、使用MAT加载堆文件,可以看到javax.crypto.JceSecurity对象占用了95%的内存空间,初步定位到问题。
MAT下载地址:
http://www.eclipse.org/mat/
![](https://filescdn.proginn.com/ab2a06e7b9e105a5e24e32dc013ff0ba/487ee9707d8d3238f0fecb9327642da3.webp)
10、查看类的引用树,看到BouncyCastleProvider
对象持有过多。即我们代码中对该对象的处理方式是错误的,定位到问题。
4、代码分析
我们代码中有一块是这样写的
![](https://filescdn.proginn.com/29d5617f87dcd8205ba4aaf0822f4a1e/6553d53b4e151aa6c78ca24bf4d19f80.webp)
这是加解密的功能,每次运行加解密都会new一个BouncyCastleProvider对象,放倒Cipher.getInstance()方法中。
看下Cipher.getInstance()的实现,这是jdk的底层代码实现,追踪到JceSecurity类中
![](https://filescdn.proginn.com/82c249fb151b88382e06b1f0c9fd4a27/8fef856abf010d3779cdd427c89295bf.webp)
verifyingProviders每次put后都会remove,verificationResults只会put,不会remove.
看到verificationResults是一个static的map,即属于JceSecurity类的。所以每次运行到加解密都会向这个map put一个对象,而这个map属于类的维度,所以不会被GC回收。这就导致了大量的new的对象不被回收。
5、代码改进
将有问题的对象置为static,每个类持有一个,不会多次新建。
![](https://filescdn.proginn.com/8994d9efbf91fedcaea000acaf9efa7d/f9022ce481e465b2a04344c9f08595b1.webp)
6、本文总结
遇到线上问题不要慌,首先确认排查问题的思路:
查看日志 查看CPU情况 查看TCP情况 查看java线程,jstack 查看java堆,jmap 通过MAT分析堆文件,寻找无法被回收的对象
(点击直达小程序)
END
![](https://filescdn.proginn.com/321208936b42560eab0c7442a9e8fd9e/244e165410bfb610ab728bea2441eadf.webp)
长按二维码/微信扫码 关注