PHPExcel仅在XLS文件中超出内存使用量

时间:2014-09-20 17:03:29

标签: php phpexcel phpexcelreader

我在处理XLS文件时遇到了PHPExcel的内存问题。 我必须使用相当大的文件(50k到200k行之间,以及9-10列),所以我不得不使用ReadFilters来解决内存问题。

然而,虽然它在XLSX文件中运行得很好,但是使用混合的后台进程和一些简单的块大小计算,我无法使其与XLS文件一起使用。

这是一切爆炸的代码:

Class ExcelReadFilter implements PHPExcel_Reader_IReadFilter
{
    private $startRow = 0;
    private $endRow = 0;

    public function setRows($startRow, $chunkSize) {
        $this->startRow    = $startRow;
        $this->endRow        = $startRow + $chunkSize;
    }

    public function readCell($column, $row, $worksheetName = '') {
        if ( ($row >= $this->startRow && $row < $this->endRow) ) {
            return true;
        }
        return false;
    }
}

PHPExcel_Settings::setCacheStorageMethod( PHPExcel_CachedObjectStorageFactory::cache_in_memory_serialized );

....
$filter = new ExcelReadFilter();
$filter->setRows($desde, $cuantas);

$reader = PHPExcel_IOFactory::createReader($this->file_type);   

$reader->setLoadSheetsOnly($sheet_name);    
$reader->setReadDataOnly(false);    
$reader->setReadFilter($filter);

$chunk = $reader->load($this->file);
$chunk->setActiveSheetIndexByName($sheet_name);

$active_sheet = $chunk->getActiveSheet();
$rowIterator = $active_sheet->getRowIterator($desde);
$this->num_filas = $active_sheet->getHighestRow();

在此之后,我立即包含以下几行,以便更好地了解发生的情况:

ob_start();
var_dump($rowIterator);

$f = fopen("excel-info.txt", "w");
fwrite($f, ob_get_clean());
fclose($f);

ob_end_clean();
die;

我认为它指的是内存问题所在。 当我第一次上传原始XLS文件时,excel-info.txt的大小为13M。 然后我打开XLS文件并将其保存为XLSX,并重复该过程,之后,excel-info.txt只有285k。

我有什么方法可以修改这些过滤器以使用XLS文件吗?

哦,并且将PHP内存限制设置为更高的值不是一个选项,但执行时间并不重要。

ADDED

当我使用不同的内存缓存选项时,我能够减少内存使用量以使其工作,并在大多数情况下将其保持在可接受的大小。

现在,我正在使用PHPExcel_CachedObjectStorageFactory :: cache_to_sqlite,这似乎足以让它工作。

我想说的是,我对文件中的序列化信息进行的计算是不正确的。 Excel5文件生成一个数组,其行数与行数一样多,excel文件的所有值都不符合过滤条件设置为NULL。当然,当我将它保存到文本文件时,有类似的东西......

array(10) {
  ["A"]=>
  NULL
  ["B"]=>
  NULL
  ["C"]=>
  NULL
  ["D"]=>
  NULL
  ["E"]=>
  NULL
  ["F"]=>
  NULL
  ["G"]=>
  NULL
  ["H"]=>
  NULL
  ["I"]=>
  NULL
  ["J"]=>
  NULL
} 

...在文件中占用了大量空间,但不应该在php_memory中,所以这是我的错。

现在,我正在使用此代码来跟踪内存使用情况:

for ( $i=1; $i < 20000; $i+=5000 ){
        $filter->setRows($i, 5000);
        echo "\n1- Usage: ".(memory_get_usage ()/1024)/1024;
        $objPHPExcel = $reader->load($this->file);
        echo "\n2- Usage: ".(memory_get_usage ()/1024)/1024;
        $sheetData = $objPHPExcel->getActiveSheet()->toArray(null,true,true,true);
        unset($sheetData);
        unset($objPHPExcel);
        echo "\n3- Usage: ".(memory_get_usage ()/1024)/1024;
        }

使用某个XLS文件,它显示:

第一次迭代 1-用法:4.3859634399414 2-用法:34.292671203613 3-用法:34.68034362793

第二次迭代 1-用法:34.68034362793 2-用法:34.68293762207 3-用法:34.684982299805

同一个文件,保存为XLSX后:

第一次迭代 1-用法:4.2780990600586 2-用法:6.9042129516602 3-用法:7.2916641235352

第二次迭代 1-用法:7.2916641235352 2-用法:7.5115432739258 3-用法:7.2813568115234

但是,我必须说,在保存为XLSX之后,大小减少了大约一半,因此我不能说它是一个错误还是它的预期行为。

2 个答案:

答案 0 :(得分:3)

PHPExcel是一个内存耗尽。我已将它用于多个客户端,并发现您必须尝试使用​​php内存限制设置来找到可以加载客户端可能导入的平均文件的最佳位置。我在某些项目中不得不使用8 GB。当然,您可以在使用加载xls文件的例程中执行此操作 ini_set('memory_limit','16M'),不在php.ini文件中。

您是否尝试过setReadDataOnly(true)?

我认为原因是xls文件不仅仅是csv数据,而是许多其他信息(如字体和宏)的全能。当您加载文件时,PHPExcel会尝试将所有部分加载到内存中,从而创建一个巨大的结构。

答案 1 :(得分:0)

只需添加此行(例如)

即可

的ini_set( 'memory_limit的', '254M');

这将解决内存问题..

随时更改内存限制以使其适合您的情况