百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

这年头,还有不会OOM排查神器mat的程序员么?

cac55 2025-03-04 10:56 14 浏览 0 评论

原创:小姐姐味道(微信公众号ID:xjjdog),欢迎分享,转载请保留出处。

大家都知道,在存储用户输入的密码时候,会使用一些hash算法对密码进行加工,比如sha-1bcrypt。这些信息同样不允许在日志输出里出现,必须做脱敏处理。但是对于一个拥有系统权限的攻击者来说,这些防护依然是不够的。攻击者可能会直接从内存中获取明文数据,尤其对于Java来说,由于提供了jmap一类非常方便的工具,可以把整个堆内存的数据dump下来。比如,“我的世界”一类使用Java开发的游戏,会比其他语言的游戏更加容易破解一些,所以我们在JVM中,如果把密码存储为char数组,安全性会稍微高一些。

这是一把双刃剑,在保证安全的前提下,我们也可以借助一些外部的分析工具,帮助我们方便的找到问题根本。

可以有两种方式来获取内存的快照。我们前面提到,通过配置一些参数,可以在发生OOM的时候,被动dump一份堆栈信息,这是一种。另一种,就是通过jmap主动去获取内存的快照。

jmap命令在Java9之后,使用jhsdb命令替代,它们在用法上,区别不大。注意,这些命令本身会占用操作系统的资源,在某些情况下会造成服务响应缓慢,所以不要频繁执行。

jmap?-dump:format=b,file=heap.bin?37340
jhsdb?jmap??--binaryheap?--pid??37340

1、工具介绍

专业的事情要有专业的工具来做,今天给大家介绍的是一款专业的开源分析工具,叫做MAT。

https://www.eclipse.org/mat/

MAT工具是基于eclipse平台开发的,本身是一个Java程序,所以如果你的堆快照比较大的话,就需要一台内存比较大的分析机器,并给MAT本身加大初始内存,这个可以修改安装目录中的MemoryAnalyzer.ini文件。

可以看一下MAT工具的截图,主要功能都体现在工具栏上。其中,默认的启动界面,展示了占用内存最高的一些对象,并有一些常用的快捷方式。通常,发生内存泄漏的对象,会在快照中占用比较大的比重,分析这些比较大的对象,是我们切入问题的第一步。

点击对象,可以浏览对象的引用关系。这是一个非常有用的功能。

  • outgoing references 对象的引出。
  • incoming references 对象的引入。
  • path to GC Roots 这是快速分析的一个常用功能,显示和GC Roots之间的路径。

另外一个比较重要的概念,就是浅堆(Shallow Heap)和深堆(Retained Heap),在MAT上经常看到这两个数值。

浅堆代表了对象本身的内存占用。包括对象自身的内存占用,以及“为了引用”其他对象所占用的内存。

深堆是一个统计结果,会循环计算引用的具体对象所占用的内存。但是深堆和“对象大小”有一点不同,深堆指的是一个对象被垃圾回收后,能够释放的内存大小,这些被释放的对象集合,叫做保留集(Retained Set)。

如上图,A对象浅堆大小1KB,B对象2KB,C对象100KB。A对象同时引用了B对象和C对象,但由于C对象也被D引用,所以A对象的深堆大小为3KB(1KB+2KB)。

A对象大小(1KB+2KB+100KB)> A对象深堆 > A对象浅堆。

2、内存泄漏检测

如果问题特别突出,可以通过Find Leaks菜单快速找出问题。

如图,展示了名称叫做huge-thread的线程,持有了超过96%的对象,数据被一个HashMap所持有。

对于特别明显的内存泄漏,在这里能够帮助我们迅速定位,但通常内存泄漏问题会比较隐蔽,我们需要更加复杂的分析。

3、支配树视图

支配树视图对数据进行了归类,体现了对象之间的依赖关系。如图,我们通常会根据“深堆”进行倒序排序,可以很容易的看到占用内存比较高的几个对象。点击前面的箭头,即可一层层展开支配关系。

图中显示的是其中的1MB数据,从左侧的inspector视图,可以看到这1MB的byte数组具体内容。

从支配树视图同样能够找到我们创建的两个循环依赖。但它们并没有显示这个过程。

支配树视图的概念有一点点复杂,我们只需要了解这个概念即可。

如上图,左边是引用关系,右边是支配树视图。可以看到A、B、C被当作是“虚拟”的根。支配关系是可传递的,因为C支配E,E支配G,所以C也支配G。

另外,到对象C的路径中,可以经过A,也可以经过B,因此对象C的直接支配者也是根对象。同理,对象E是H的支配者。

我们再来看比较特殊的D和F。对象F与对象D相互引用,因为到对象F的所有路径必然经过对象D,因此,对象D是对象F的直接支配者。

可以看到支配树视图并不一定总是能看到对象的真实应用关系,但对我们分析问题的影响并不是很大。

这个视图是非常好用的,甚至可以根据package进行归类,对目标类的查找是非常快捷的。

编译下面这段代码,可以展开视图,实际观测一下支配树,这和我们上面介绍的是一致的。

public?class?DorminatorTreeDemo?{
????static?class?A?{
????????C?c;
????????byte[]?data?=?new?byte[1024?*?1024?*?2];
????}
????static?class?B?{
????????C?c;
????????byte[]?data?=?new?byte[1024?*?1024?*?3];
????}
????static?class?C?{
????????D?d;
????????E?e;
????????byte[]?data?=?new?byte[1024?*?1024?*?5];
????}
????static?class?D?{
????????F?f;
????????byte[]?data?=?new?byte[1024?*?1024?*?7];
????}
????static?class?E?{
????????G?g;
????????byte[]?data?=?new?byte[1024?*?1024?*?11];
????}
????static?class?F?{
????????D?d;
????????H?h;
????????byte[]?data?=?new?byte[1024?*?1024?*?13];
????}
????static?class?G?{
????????H?h;
????????byte[]?data?=?new?byte[1024?*?1024?*?17];
????}
????static?class?H?{
????????byte[]?data?=?new?byte[1024?*?1024?*?19];
????}
????A?makeRef(A?a,?B?b)?{
????????C?c?=?new?C();
????????D?d?=?new?D();
????????E?e?=?new?E();
????????F?f?=?new?F();
????????G?g?=?new?G();
????????H?h?=?new?H();
????????a.c?=?c;
????????b.c?=?c;
????????c.e?=?e;
????????c.d?=?d;
????????d.f?=?f;
????????e.g?=?g;
????????f.d?=?d;
????????f.h?=?h;
????????g.h?=?h;
????????return?a;
????}
????static?A?a?=?new?A();
????static?B?b?=?new?B();
????public?static?void?main(String[]?args)?throws?Exception?{
????????new?DorminatorTreeDemo().makeRef(a,?b);
????????Thread.sleep(Integer.MAX_VALUE);
????}
}

4、线程视图

想要看具体的引用关系,可以通过线程视图。我们在第5小节,就了解到线程其实是可以作为GC Roots的。如图展示了线程内对象的引用关系,以及方法调用关系,相对比jstack获取的栈dump,我们能够更加清晰的看到内存中具体的数据。

如下图,我们找到了huge-thread,依次展开找到holder对象,可以看到循环依赖已经陷入了无限循环的状态。这在查看一些Java对象的时候,经常发生,不要感到奇怪。

5、柱状图视图

我们返回头来再看一下柱状图视图,可以看到除了对象的大小,还有类的实例个数。结合MAT提供的不同显示方式,往往能够直接定位问题。也可以通过正则可以过滤一些信息,我们在这里输入MAT,过滤猜测的、可能出现问题的类。可以看到我们创建的这些自定义对象,不多不少正好一百个。

右键点击类,然后选择incoming,这会列出所有的引用关系。

再次选择某个引用关系,然后选择菜单“Path To GC Roots”,即可显示到GC Roots的全路径。通常在排查内存泄漏的时候,会选择排除虚弱软等引用。

使用这种方式,即可在引用之间进行跳转,方便的找到所需要的信息。

再给大家介绍一个比较高级的功能。

我们对于堆的快照,其实是一个“瞬时态”,有时候仅仅分析这个瞬时状态,并不一定能确定问题,这就需要对两个或者多个快照进行对比,来确定一个增长趋势。

可以将代码中的100改成10或其他数字,再次dump一份快照进行比较。如图,通过分析某类对象的增长,即可辅助问题定位。

6、高级功能-OQL

MAT支持一种类似于SQL的查询语言OQL(Object Query Language),这个查询语言VisualVM工具也支持。

以下是几个例子,大家可以实际实践一下。

查询A4MAT对象。

SELECT?*?FROM??Objects4MAT$A4MAT?

正则查询MAT结尾的对象。

SELECT?*?FROM?".*MAT"?

查询String类的char数组。

SELECT?OBJECTS?s.value?FROM?java.lang.String?s?
SELECT?OBJECTS?mat.b4MAT?FROM??Objects4MAT$A4MAT?mat

根据内存地址查找对象。

select?*?from?0x55a034c8?

使用INSTANCEOF关键字,查找所有子类。

SELECT?*?FROM?INSTANCEOF?java.util.AbstractCollection?

查询长度大于1000的byte数组。

SELECT?*?FROM?byte[]?s?WHERE?s.@length>1000

查询包含java字样的所有字符串。

SELECT?*?FROM?java.lang.String?s?WHERE?toString(s)?LIKE?".*java.*"?

查找所有深堆大小大于1万的对象。

SELECT?*?FROM?INSTANCEOF?java.lang.Object?o?WHERE?o.@retainedHeapSize>10000

如果你忘记这些属性的名称的话,MAT是可以自动补全的。

OQL有比较多的语法和用法,深入可以参考

http://tech.novosoft-us.com/products/oql_book.htm

一般,我们使用上面这些简单的查询语句就够用了。

OQL还有一个好处,就是可以分享。如果你和同事同时在分析一个大堆,你不必告诉他先点哪一步,再点哪一步,共享给他一个OQL语句就可以了。

如下图,MAT贴心的提供了复制OQL的功能,但是用在其他快照上,不会起作用,因为它复制的是如下的内容。

7、End

我们把问题设定为内存泄漏,但其实OOM或者频繁GC不一定就是内存泄漏,它也可能是由于某次或者某批请求频繁创建了大量对象,所以一些严重的、频繁的GC问题也能在这里找到原因。有些情况下,占用内存最多的对象,并不一定是引起内存泄漏问题的元凶,但我们也有一个比较通用的分析过程。

并不是所有的堆都值得分析的。我们分析在做这个耗时的分析之前,需要有个依据。比如,经过初步调优之后,GC的停顿时间还是较长,我们需要找到频繁GC的原因;再比如,我们发现了内存泄漏,需要找到是谁在搞鬼。

首先,我们高度关注快照载入后的初始分析。占用内存高的topN对象,大概率是问题产生者。

如果不能通过大对象发现问题,就需要对快照进行深入分析。使用柱状图和支配树视图,配合引入引出和各种排序,能够对内存的使用进行整体的摸底。由于我们能够看到内存中的具体数据,排查一些异常数据就容易的多。

可以在程序运行的不同时间点,获取多份内存快照,对比之后问题会更加容易发现。我们还是用一个例子来看。有一个应用,使用了Kafka消息队列,开了一般大小的消费缓冲区,Kafka会复用这个缓冲区,按理说不应该有内存问题,但是应用却频繁发生GC。通过对比请求高峰和低峰期间的内存快照,我们发现有工程师把消费数据放入了另外一个 “内存队列”,写了一些画蛇添足的代码,结果在业务高峰期一股脑把数据加载到了内存中。

上面这些问题通过分析业务代码,也不难发现其关联性。问题如果非常隐蔽,就需要使用OQL等语言,对问题一一排查、确认。

可以看到,MAT工具的上手是有一定门槛的,除了其操作模式,还需要对我们前面介绍的理论知识有深入的理解。比如GC Roots,各种引用级别等。

在很多场景,MAT并不仅仅用于内存泄漏的排查。由于我们能够看到内存上的具体数据,在排查一些难度非常高的bug时,MAT也有用武之地。比如,因为某些脏数据,引起了程序的执行异常。这个时候,想要找到它们,不要忘了MAT这个老朋友。


推荐阅读:


1. 玩转Linux
2. 什么味道专辑

3. 蓝牙如梦
4. 杀机!
5. 架构师BUG,非比寻常

相关推荐

MIRIX重塑AI记忆:超Gemini 410%,节省99.9%内存,APP同步上线

MIRIX,一个由UCSD和NYU团队主导的新系统,正在重新定义AI的记忆格局。在过去的十年里,我们见证了大型语言模型席卷全球,从写作助手到代码生成器,无所不能。然而,即使最强大的模型依...

硬盘坏了怎么把数据弄出来对比10种硬盘数据恢复软件

机械硬盘或固态硬盘损坏导致数据丢失时,应立即停止对硬盘的读写操作,并根据损坏类型选择逻辑层恢复工具或专业物理恢复服务。紧急处置措施立即停止通电使用:发现硬盘异响、无法识别或数据异常时,需立即断开连接,...

蓝宝石B850A WIFI主板新玩法:内存小参调节体验

蓝宝石前段时间发布了一款性价比极高的主板:NITRO氮动B850AWIFI主板。这款主板的售价只要1349元,相比普遍1500元以上的B850主板,确实极具竞争力。虽然价格实惠,蓝宝石NITR...

内存卡损坏读不出怎么修复?这5个数据恢复工具汇总,3秒挽回!

在数字化生活的浪潮中,内存卡凭借小巧便携与大容量存储的特性,成为相机、手机、行车记录仪等设备存储数据的得力助手,承载着无数珍贵回忆与重要文件。然而,当内存卡突然损坏无法读取,无论是误删、格式化、病毒入...

内存卡修复不再难,2025年必学的6款软件工具

内存卡出现问题时,通常是因为文件系统损坏、物理损坏或病毒感染。通过专业的修复工具,我们可以尝试恢复数据并修复内存卡。内存卡修复利器:万兴恢复专家万兴恢复专家是一款功能强大的数据恢复软件,支持多种设备和...

有5款内存卡修复工具汇总,内存卡数据轻松找回!

在如今的数字时代,内存卡作为不可或缺的存储介质,广泛应用于相机、手机、行车记录仪等各类设备中,承载着我们珍贵的照片、视频以及重要文件。然而,数据丢失的风险却如影随形,误删、格式化、病毒入侵、硬件故障等...

揭秘:如何通过多种方式精准查询内存条型号及规避风险?

以下是内存条型号查询的常用方法及注意事项,综合了物理查看、软件检测、编码解析等多种方式:一、物理标签查看法1.拆机查看标签打开电脑主机/笔记本后盖找到内存条,观察标签上的型号标识。例如内存标签通常标...

内存卡数据恢复5个工具汇总推荐,轻松找回珍贵记忆!

在这个数字化时代,内存卡作为我们存储珍贵照片、重要文件的常用载体,广泛应用于手机、相机、平板电脑等设备。但数据丢失的意外却常常不期而至,误删除、格式化、病毒攻击,甚至内存卡的物理损坏,都可能让辛苦保存...

电脑内存智能监控清理,优化性能的实用软件

软件介绍Memorycleaner是一款内存清理软件。功能很强,效果很不错。Memorycleaner会在内存用量超出80%时,自动执行“裁剪进程工作集”“清理系统缓存”以及“用全部可能的方法清理...

TechPowerUp MemTest64:内存稳定性测试利器

TechPowerUpMemTest64:内存稳定性测试利器一、软件简介TechPowerUpMemTest64,由知名硬件信息工具GPU-Z的出品公司TechPowerUp发布,是一款专为64位...

微软推出AI恶意软件检测智能体Project Ire,精确度高达98%

IT之家8月6日消息,当地时间周二,微软宣布推出可自主分析恶意软件的AI检测系统原型——ProjectIre。该项目由微软研究院、Defender研究团队及Discovery&a...

农村老木匠常用的20种老工具,手艺人靠它养活一家人,你认识几种

生活中的手艺老匠人是非常受到尊敬和崇拜的,特别是在农村曾经的老匠人都是家里的“座上宾”。对于民间传统的手艺人,有一种说法就是传统的八大匠:木匠、泥匠、篾匠、铁匠、船匠、石匠、油匠和剃头匠。木匠的祖始爷...

恶意木马新变种伪装成聊天工具诱人点击

国家计算机病毒应急处理中心通过对互联网监测发现,近期出现一种恶意木马程序变种Trojan_FakeQQ.CTU。该变种通过伪装成即时聊天工具,诱使计算机用户点击运行。该变种运行后,将其自身复制到受感染...

学习网络安全 这些工具你知道吗?

工欲善其事必先利其器,在新入门网络安全的小伙伴而言。这些工具你必须要有所了解。本文我们简单说说这些网络安全工具吧!Web安全类web类工具主要是通过各种扫描工具,发现web站点存在的各种漏洞...

5分钟盗走你的隐私照片,这个全球性漏洞到底有多可怕?

这个时代,大家对电脑出现漏洞,可能已经习以为常。但如果机哥告诉大家,这个漏洞能够在5分钟内,破解并盗取你所有加密文件,而且还无法通过软件和补丁修复...这可就有点吓人啦。事情是酱婶的。来自荷兰埃因...

取消回复欢迎 发表评论: