用于阅读的Apache POI Streaming(SXSSF)

时间:2015-11-18 17:13:14

标签: java apache-poi

我需要读取大型excel文件并将其数据导入我的应用程序。

由于POI占用了大量的堆,通常会导致OutOfMemory错误,我发现有一个 Streaming API用于以串行方式处理excel数据(而不是而不是将文件完全加载到内存中)

我创建了一个xlsx工作簿,只有一个工作表,并在单元格中键入了多个值,并提供了以下代码来尝试阅读它:

public static void main(String[] args) throws Throwable {
    // keep 100 rows in memory, exceeding rows will be flushed to disk
    SXSSFWorkbook wb = new SXSSFWorkbook(new XSSFWorkbook(new FileInputStream("C:\\test\\tst.xlsx")));
    SXSSFSheet sheet = (SXSSFSheet) wb.getSheetAt(0);
    Row row = sheet.getRow(0);
    //row is always null
    while(row.iterator().hasNext()){ //-> NullPointerException
        System.out.println(row.getCell(0).getStringCellValue());
    }
}

然而,尽管能够正确获取其工作表,但它总是带有空(null)行。

我已经研究并在互联网上找到了几个Streaming API的例子,但它们都不是关于阅读现有文件,它们都是关于生成excel文件的。

实际上是否可以从流中的现有.xlsx文件中读取数据?

1 个答案:

答案 0 :(得分:25)

经过深入挖掘后,我发现了library

  

如果您以前使用过Apache POI读取Excel文件,您可能会注意到它的内存效率不高。读取整个工作簿会导致严重的内存使用量激增,这会对服务器造成严重破坏。

     

为什么Apache必须读取整个工作簿有很多充分的理由,但大多数都与库允许您使用随机地址进行读写这一事实有关。如果(并且仅当)您只想以快速且内存有效的方式读取Excel文件的内容,您可能不需要此功能。不幸的是,POI库中唯一用于读取流式工作簿的东西需要您的代码使用类似SAX的解析器。该API缺少所有友好的类,如Row和Cell。

     

此库充当流API的包装,同时保留标准POI API的语法。继续阅读,看看它是否适合你。

InputStream is = new FileInputStream(new File("/path/to/workbook.xlsx"));
StreamingReader reader = StreamingReader.builder()
        .rowCacheSize(100)    // number of rows to keep in memory (defaults to 10)
        .bufferSize(4096)     // buffer size to use when reading InputStream to file (defaults to 1024)
        .sheetIndex(0)        // index of sheet to use (defaults to 0)
        .sheetName("sheet1")  // name of sheet to use (overrides sheetIndex)
        .read(is);            // InputStream or File for XLSX file (required)

还有SAX Event API,它读取文档并通过事件解析其内容。

  

如果内存占用是个问题,那么对于XSSF,您可以获取基础XML数据并自行处理。这适用于愿意学习.xlsx文件的一些低级结构的中间开发人员,以及在java中处理XML的人。它使用起来比较简单,但需要对文件结构有基本的了解。提供的优势是您可以读取内存占用相对较小的XLSX文件。