Java内存泄露问题分析

最近有一个服务器，经常运行的时候就出现过载宕机的现象。重启脚本和系统后，该个问题还是会出现。尽管有大量的数据丢失,但因不是关键业务，问题并 不严重。不过还是决定作进一步的调查，来看下问题到底出现在哪。首先注意到的是，服务器通过了所有的单元测试和完整的集成环境的测试。在测试环境下使用测 试数据时运行正常,那么为什么在生产环境中运行会出现问题呢？很容易会想到，也许是因为实际运行时的负载大于测试时的负载，甚至超过了设计的负荷，从而耗 尽了资源。但是到底是什么资源,在哪里耗尽了呢?下面我们就研究这个问题

为了演示这个问题,首先要做的是编写一些内存泄露的代码,将使用生产-消费者模式去实现,以便更好说明问题。

例子中，假定有这样一个场景：假设你为一个证劵经纪公司工作，这个公司将股票的销售额和股份记录在数据库中。通过一个简单进程获取命令并将其存放在一个队列中。另一个进程从该队列中读取命令并将其写入数据库。命令的POJO对象十分简单，如下代码所示：

public class Order {

private final int id;

private final String code;

private final int amount;

private final double price;

private final long time;

private final long[] padding;

/**

• @param id
• The order id
• @param code
• The stock code
• @param amount
• the number of shares
• @param price
• the price of the share
• @param time
• the transaction time
  */

public Order(int id, String code, int amount, double price, long time) {

super(); 
this.id = id; 
this.code = code; 
this.amount = amount; 
this.price = price; 
this.time = time; 

//这里故意设置Order对象足够大，以方便例子稍后在运行的时候耗尽内存 
this.padding = new long[3000]; 
Arrays.fill(padding, 0, padding.length - 1, -2); 

}

public int getId() {

return id; 

}

public String getCode() {

return code; 

}

public int getAmount() {

return amount; 

}

public double getPrice() {

return price; 

}

public long getTime() {

return time; 

}

}

这个POJO对象是Spring应用的一部分，该应用有三个主要的抽象类，当Spring调用它们的start()方法的时候将分别创建一个新的线程。

http://www.developcls.com
http://www.developcls.com/qa/ef2c7b5c050b4cfaa54a0d11080077c5...

第一个抽象类是OrderFeed。run()方法将生成一系列随机的Order对象，并将其放置在队列中，然后它会睡眠一会儿，又再接着生成一个新的Order对象，代码如下：

public class OrderFeed implements Runnable {

private static Random rand = new Random();

private static int id = 0;

private final BlockingQueue<Order> orderQueue;

public OrderFeed(BlockingQueue<Order> orderQueue) {
this.orderQueue = orderQueue;
}

/**
*在加载Context上下文后由Spring调用，开始生产order对象
*/
public void start() {

Thread thread = new Thread(this, "Order producer");
thread.start();
}

@Override
public void run() {

while (true) {

 Order order = createOrder(); 
 orderQueue.add(order); 
 sleep(); 

}
}

private Order createOrder() {

final String[] stocks = { "BLND.L", "DGE.L", "MKS.L", "PSON.L", "RIO.L", "PRU.L",

   "LSE.L", "WMH.L" }; 

int next = rand.nextInt(stocks.length);
long now = System.currentTimeMillis();

Order order = new Order(++id, stocks[next], next 100, next 10, now);
return order;
}

private void sleep() {
try {

 TimeUnit.MILLISECONDS.sleep(100); 

} catch (InterruptedException e) {

 e.printStackTrace(); 

}
}

第二个类是OrderRecord，这个类负责从队列中提取Order对象，并将它们写入数据库。问题是，将Order对象写入数据库的耗时比产生Order对象的耗时要长得多。为了演示，将在recordOrder()方法中让其睡眠1秒。

public class OrderRecord implements Runnable {

private final BlockingQueue<Order> orderQueue;

public OrderRecord(BlockingQueue<Order> orderQueue) {

this.orderQueue = orderQueue; 

}

public void start() {

Thread thread = new Thread(this, "Order Recorder"); 
thread.start(); 

}

@Override
public void run() {

while (true) { 

  try { 
    Order order = orderQueue.take(); 
    recordOrder(order); 
  } catch (InterruptedException e) { 
    e.printStackTrace(); 
  } 
} 

}

/**

• 模拟记录到数据库的方法，这里只是简单让其睡眠一秒
  */

public void recordOrder(Order order) throws InterruptedException {

TimeUnit.SECONDS.sleep(1); 

}

}

为了证明这个效果，特意增加了一个监视类 OrderQueueMonitor ，这个类每隔几秒就打印出队列的大小，代码如下：

public class OrderQueueMonitor implements Runnable {

private final BlockingQueue<Order> orderQueue;

public OrderQueueMonitor(BlockingQueue<Order> orderQueue) {

this.orderQueue = orderQueue; 

}

public void start() {

Thread thread = new Thread(this, "Order Queue Monitor"); 
thread.start(); 

}

@Override
public void run() {

while (true) { 

  try { 
    TimeUnit.SECONDS.sleep(2); 
    int size = orderQueue.size(); 
    System.out.println("Queue size is:" + size); 
  } catch (InterruptedException e) { 
    e.printStackTrace(); 
  } 
} 

}

}

接下来配置Spring框架的相关配置文件如下：

<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
xmlns:p="http://www.springframework.org/schema/p"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xmlns:context="http://www.springframework.org/schema/context"
xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans.xsd
http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-3.1.xsd"
default-init-method="start"
default-destroy-method="destroy">

<bean id="theQueue" class="java.util.concurrent.LinkedBlockingQueue"/>
<bean id="orderProducer">
<constructor-arg ref="theQueue"/>
</bean>

<bean id="OrderRecorder">
<constructor-arg ref="theQueue"/>
</bean>

<bean id="QueueMonitor">
<constructor-arg ref="theQueue"/>
</bean>

</beans>

接下来运行这个Spring应用，并且可以通过jConsole去监控应用的内存情况，这需要作一些配置，配置如下：

-Dcom.sun.management.jmxremote
-Dcom.sun.management.jmxremote.port=9010
-Dcom.sun.management.jmxremote.local.only=false
-Dcom.sun.management.jmxremote.authenticate=false
-Dcom.sun.management.jmxremote.ssl=false

如果你看看堆的使用量，你会发现随着队列的增大，堆的使用量逐渐增大，如下图所示，你可能不会发现1KB的内存泄露，但当达到1GB的内存溢出就很明显了。所以，接下来要做的事情就是等待其溢出，然后进行分析。

接下来我们来看下如何发现并解决这类问题。在Java中，可以借助不少自带的或第三方的工具帮助我们进行相关的分析。

下面介绍分析程序内存泄露问题的三个步骤：

提取发生内存泄露的服务器的转储文件。
用这个转储文件生成报告。
分析生成的报告。

有几个工具能帮你生成堆转储文件，分别是：

jconsole
 visualvm
Eclipse Memory Analyser Tool（MAT）

用jconsole提取堆转储文件

使用jconsole连接到你的应用：单击MBeans选项卡打开com.sun.management包，点击 HotSpotDiagnostic，点击Operations，然后选择dumpHeap。这时你将会看到dumpHeap操作：它接受两个参数p0和 p1。在p0的编辑框内输入一个堆转储的文件名，然后按下DumpHeap按钮就可以了。如下图：

用jvisualvm提取堆转储文件

首先使用jvisual vm连接示例代码，然后右键点击应用，在左侧的“application”窗格中选择“Heap Dump”。

注意：如果需要分析的发生内存泄露的是在远程服务器上，那么jvisualvm将会把转存出来的文件保存在远程机器（假设这是一台unix机器）上的/tmp目录下。

用MAT来提取堆转储文件

jconsole和jvisualvm本身就是JDK的一部分，而MAT或被称作“内存分析工具”，是一个基于eclipse的插件，可以从eclipse.org下载。

最新版本的MAT需要你在电脑上安装JDk1.6。如果你用的是Java1.7版本也不用担心，因为它会自动为你安装1.6版本，并且不会和安装好的1.7版本产生冲突。

使用MAT的时候，只需要点击“Aquire Heap Dump”，然后按步骤操作就可以了，如下图：

要注意的是，使用上面的三种方法，都需要配置远程JMX连接如下：

-Dcom.sun.management.jmxremote
-Dcom.sun.management.jmxremote.port=9010
-Dcom.sun.management.jmxremote.local.only=false
-Dcom.sun.management.jmxremote.authenticate=false
-Dcom.sun.management.jmxremote.ssl=false

何时提取堆转存文件

那么在什么时候才应该提取堆转存文件呢？这需要耗费点心思和碰下运气。如果过早提取了堆转储文件，那么将可能不能发现问题症结所在，因为它们被合法，非泄露类的实例屏蔽了。不过也不能等太久，因为提取堆转储文件也需要占用内存，进行提取的时候可能会导致应用崩溃。

最好的办法是将jconsole连接到应用程序并监控堆的占用情况，知道它何时在崩溃的边缘。因为没有发生内存泄露时，三个堆部分指标都是绿色的，这样很容易就能监控到，如下图：

分析转储文件

现在轮到MAT派上用场了，因为它本身就是设计用来分析堆转储文件的。要打开和分析一个堆转储文件，可以选择File菜单的Heap Dump选项。选择了要打开的文件后，将会看到如下三个选项：

选择Leak Suspect Report选项。在MAT运行几秒后，会生成如下图的页面：

如饼状图显示：疑似有一处发生了内存泄露。也许你会想，这样的做法只有在代码受到控制的情况下才可取。毕竟这只是个例子，这又能说明什么呢？好吧， 在这个例子里，所有的问题都是浅然易见的；线程a占用了98.7MB内存，其他线程用了1.5MB。在实际情况中，得到的图表可能是上图那样。让我们继续 探究，会得到如下图：

如上图所示，报告的下一部分告诉我们，有一个LinkedBlockQueue占用了98.46%的内存。想要进一步的探究，点击Details>>就可以了，如下图：

可以看到，问题确实是出在我们的orderQueue上。这个队列里存储了所有生成的随机生成的Order对象，并且可以被我们上篇博文里提到的三个线程OrderFeed、OrderRecord、OrderMonitor访问。

那么一切都清楚了，MAT告诉我们：示例代码中有一个LinkedBlockQueue，这个队列用尽了所有的内存，从而导致了严重的问题。不过我们不知道这个问题为什么会产生，也不能指望MAT告诉我们。

本文代码可以在：https://github.com/roghughe/captaindebug/tree/master/producer-consumer中下载。