MySQL JDBC ResultSet读取大量数据报OutOfMemoryError的解决方案

MySQL Connector/J的ResultSet默认会从服务器取回整个结果集并存放到JVM内存中,如果数据量很大,显然会出现OOM错误。

根据官方文档 JDBC API Implementation Notes 中关于ResultSet的说明,有两种解决方案。

第一种,使用以下代码让jdbc驱动一次只返回一条记录。

stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY,
              java.sql.ResultSet.CONCUR_READ_ONLY);
stmt.setFetchSize(Integer.MIN_VALUE);

如果使用PreparedStatement,可以使用下面的代码:

stmt = conn.prepareStatement(sql,java.sql.ResultSet.TYPE_FORWARD_ONLY,
                    java.sql.ResultSet.CONCUR_READ_ONLY);
stmt.setFetchSize(Integer.MIN_VALUE);

这种方式有弊端,在读取结果集的过程中,你没办法执行其他sql语句,否则会报错“java.sql.SQLException: Streaming result set com.mysql.jdbc.RowDataDynamic@123a439b is still active. No statements may be issued when any streaming result sets are open and in use on a given connection. Ensure that you have called .close() on any active streaming result sets before attempting more queries.

”,只有在这个结果集关闭之后,你才能执行其他语句。

第二种,在jdbc连接串中添加useCursorFetch=true参数,然后调用stmt.setFetchSize()设置批量大小,这样jdbc驱动将每次只下载指定数量的数据,并在需要时读取下一批次的数据。这个方案没有第一种方案的问题,推荐使用。

编辑于 2020-05-08 19:23