MySQL中使用流式查询避免数据OOM
一、前言
程序访问MySQL
数据库时,当查询出来的数据量特别大时,数据库驱动把加载到的数据全部加载到内存里,就有可能会导致内存溢出(OOM)。
其实在MySQL
数据库中提供了流式查询,允许把符合条件的数据分批一部分一部分地加载到内存中,可以有效避免OOM;本文主要介绍如何使用流式查询并对比普通查询进行性能测试。
二、JDBC实现流式查询
使用JDBC的PreparedStatement/Statement
的setFetchSize
方法设置为Integer.MIN_VALUE
或者使用方法Statement.enableStreamingResults()
可以实现流式查询,在执行ResultSet.next()
方法时,会通过数据库连接一条一条的返回,这样也不会大量占用客户端的内存。
public int execute(String sql, boolean isStreamQuery) throws SQLException { Connection conn = null; PreparedStatement stmt = null; ResultSet rs = null; int count = 0; try { //获取数据库连接 conn = getConnection(); if (isStreamQuery) { //设置流式查询参数 stmt = conn.prepareStatement(sql, ResultSet.TYPE_FORWARD_ONLY, ResultSet.CONCUR_READ_ONLY); stmt.setFetchSize(Integer.MIN_VALUE); } else { //普通查询 stmt = conn.prepareStatement(sql); } //执行查询获取结果 rs = stmt.executeQuery(); //遍历结果 while(rs.next()){ System.out.println(rs.getString(1)); count++; } } catch (SQLException e) { e.printStackTrace(); } finally { close(stmt, rs, conn); } return count; }
「PS」上面的例子中通过参数isStreamQuery
来切换「流式查询」与「普通查询」,用于狼蚁网站SEO优化做测试对比。
三、性能测试
创建了一张测试表my_test
进行测试,总数据量为27w
条,分别使用以下4个测试用例进行测试
- 大数据量普通查询(27w条)
- 大数据量流式查询(27w条)
- 小数据量普通查询(10条)
- 小数据量流式查询(10条)
3.1. 测试大数据量普通查询
@Test public void testCommonBigData() throws SQLException { String sql = "select from my_test"; testExecute(sql, false); }
3.1.1. 查询耗时
27w 数据量用时 38 秒
3.1.2. 内存占用情况
使用将近 1G 内存
3.2. 测试大数据量流式查询
@Test public void testStreamBigData() throws SQLException { String sql = "select from my_test"; testExecute(sql, true); }
3.2.1. 查询耗时
27w 数据量用时 37 秒
3.2.2. 内存占用情况
由于是分批获取,所以内存在30-270m波动
3.3. 测试小数据量普通查询
@Test public void testCommonSmallData() throws SQLException { String sql = "select from my_test limit 100000, 10"; testExecute(sql, false); }
3.3.1. 查询耗时
10 条数据量用时 1 秒
3.4. 测试小数据量流式查询
@Test public void testStreamSmallData() throws SQLException { String sql = "select from my_test limit 100000, 10"; testExecute(sql, true); }
3.4.1. 查询耗时
10 条数据量用时 1 秒
四、
MySQL 流式查询对于内存占用方面的优化还是比较明显的,对于查询速度的影响较小,主要用于解决大数据量查询时的内存占用多的场景。
「DEMO地址」
到此这篇关于MySQL中使用流式查询避免数据OOM的文章就介绍到这了,更多相关MySQL 流式查询内容请搜索狼蚁SEO以前的文章或继续浏览狼蚁网站SEO优化的相关文章希望大家以后多多支持狼蚁SEO!
编程语言
- 甘肃哪有关键词排名优化购买方式有哪些
- 甘肃SEO如何做网站优化
- 河南seo关键词优化怎么做电话营销
- 北京SEO优化如何做QQ群营销
- 来宾百度关键词排名:提升您网站曝光率的关键
- 卢龙关键词优化:提升您网站排名的策略与技巧
- 山东网站优化的注意事项有哪些
- 四川整站优化怎样提升在搜索引擎中的排名
- 疏附整站优化:提升网站性能与用户体验的全新
- 海南seo主要做什么工作售后服务要做到哪些
- 荣昌百度网站优化:提升您网站的搜索引擎排名
- 河北seo网站排名关键词优化如何做SEO
- 江西优化关键词排名推广售后保障一般有哪些
- 古浪SEO优化:提升你的网站可见性
- 西藏网站排名优化怎么把网站排名在百度首页
- 如何提升阳东百度快照排名:详尽指南