Java POI读取大型Excel文件速度慢如何优化?

Java POI读取大型Excel文件速度慢如何优化?

Java POI处理大型excel文件效率优化策略

使用Java POI处理大型Excel文件时,常常面临读取速度缓慢的问题,甚至可能导致内存溢出错误。这是因为POI默认将整个文件加载到内存中。本文将介绍两种主流优化方法,有效提升大型Excel文件读取效率。

核心问题:内存占用过高

POI默认加载整个Excel文件到内存,大型文件会导致内存占用过高,严重影响读取速度,甚至引发OutOfMemoryError。因此,需要采用分段读取策略,避免一次性加载整个文件。

立即学习Java免费学习笔记(深入)”;

优化方案:

方案一:使用xlsx-streamer库实现分段读取

xlsx-streamer基于POI,通过分段缓存机制,将数据分批加载到内存,显著降低内存占用。它在创建Workbook对象时使用StreamingReader创建缓冲区,批量读取文件内容。

首先,引入xlsx-streamer和poi-ooxml依赖:

<dependency>     <groupId>org.apache.poi</groupId>     <artifactId>poi-ooxml</artifactId>     <version>${poi.version}</version> </dependency> <dependency>     <groupId>com.monitorjbl</groupId>     <artifactId>xlsx-streamer</artifactId>     <version>2.1.0</version> </dependency>

以下代码演示如何使用xlsx-streamer读取大型Excel文件:

public static void readLargeExcel(File file) throws Exception {     InputStream inputStream = new FileInputStream(file);     long start = System.currentTimeMillis();     try (Workbook workbook = StreamingReader.builder()             .rowCacheSize(10000) // 缓存行数             .bufferSize(4096)    // 缓冲区大小             .open(inputStream)) {          Sheet sheet = workbook.getSheetAt(0);         log.info("Excel读取完成,耗时:{}毫秒", System.currentTimeMillis() - start);         for (Row row : sheet) {             System.out.println("读取第" + row.getRowNum() + "行数据:");             for (Cell cell : row) {                 System.out.print(cell.getStringCellValue() + " ");             }             System.out.println();         }         System.out.println("读取结束行数:" + sheet.getLastRowNum());     } }

在处理数十万行数据时,此方法能显著缩短读取时间。

方案二:使用EasyExcel库

EasyExcel是阿里巴巴开源的高效Excel处理工具,基于POI进行了优化,有效避免大文件读取内存溢出。它提供简洁的API,方便进行读写操作。

添加EasyExcel依赖:

<dependency>     <groupId>com.alibaba</groupId>     <artifactId>easyexcel</artifactId>     <version>3.1.0</version> </dependency>

以下代码演示如何使用EasyExcel读取Excel文件,提供两种读取方式:对象封装map读取:

public static void readExcelByEasyExcel(File file) {     long start = System.currentTimeMillis();     List<ExcelData> excelDataList = EasyExcel.read(file).head(ExcelData.class).sheet(0).doReadSync();     excelDataList.forEach(System.out::println);     log.info("Excel读取完成,耗时:{}毫秒", System.currentTimeMillis() - start); }  public static void readExcelByEasyExcel1(File file) {     long start = System.currentTimeMillis();     List<Map<String, Object>> listMap = EasyExcel.read(file).sheet(0).doReadSync();     listMap.forEach(x -> System.out.println(JSON.toJSONString(x)));     log.info("Excel读取完成,耗时:{}毫秒", System.currentTimeMillis() - start); }

选择哪种方案取决于具体需求和项目环境。xlsx-streamer侧重于POI增强,EasyExcel提供更全面的功能和更友好的API。 根据实际情况选择最合适的方案。

© 版权声明
THE END
喜欢就支持一下吧
点赞11 分享