调试内存泄漏,PHP和MySQL Blob流文件下载

时间:2011-10-31 01:15:31

标签: php mysql memory-leaks blob http-streaming

在Mac上使用MAMP v2.0 _ _Apache / 2.0.64(Unix) - PHP / 5.3.5 - DAV / 2 mod_ssl / 2.0.64 - OpenSSL / 0.9。 7l - MySQL 5.5.9

我有一个我试图运行的脚本,它似乎给了我主要的内存泄漏,我试图调试并且无法解决如何修复。

基本上,脚本是文件管理器模块的一部分。它在给定ID时处理文件的下载。

整个文件以64kb块(每条记录)存储在数据库表中,作为BLOB,并根据请求流式传输到客户端。

  

数据库: file_management

     

表: file_details,file_data

     

file_details
  FileID - int(10)AUTO_INCREMENT
  FileTypeID - int(10)
  FileType - varchar(60)
  FileName - varchar(255)
  FileDescription - varchar(255)
  FileSize - bigint(20)
  FileUploadDate - 日期时间
  FileUploadBy - int(5)
  
   file_details
  FileDataID - int(10)AUTO_INCREMENT
  FileID - int(10)
  FileData - BLOB

我实际得到的错误是这个(来自php错误日志):

[31-Oct-2011 09:47:39] PHP致命错误:在第150行的/root/htdocs/file_manager/file_manager_download.php中,允许的内存大小为134217728字节(试图分配63326173字节)

现在,如果文件足够小,下载的实际功能可以工作,在这种情况下,小于40mb,但是一旦超过它,就像上面错误中的60mb文件一样,它会失败。它所做的就是下载一个0kb的文件。

显然,134217728字节大于63326173字节(128mb对60mb)。

允许的内存大小为134217728字节是php.ini中的指令: “memory_limit = 128M;脚本可能占用的最大内存量” < / b>

如果我将其设置为256M,它允许我下载该60mb文件,以及最多约80mb文件。

另外,如果我将其设置为1024M,它允许我下载260mb文件,可能更大。

所以你可以看到问题是脚本中某处正在占用所有内存的泄漏。

以下是下载脚本:



    ini_set('display_errors',1);
error_reporting(E_ALL & ~E_NOTICE);

$strDB=mysql_connect("localhost","username","password")or die ("Error connecting to mysql.. Error: (" . mysql_errno() . ") " . mysql_error());
$database=mysql_select_db("file_management",$strDB);

if (isset($_GET["id"])) {

    // List of nodes representing each 64kb chunk
    $nodelist = array();

    // Pull file meta-data
    $sql_GetFileDetails = "
    SELECT 
    FileID,
    FileTypeID,
    FileType,
    FileName,
    FileDescription,
    FileSize,
    FileUploadDate,
    FileUploadBy
    FROM file_details WHERE FileID = '".$_GET["id"]."';";

    $result_GetFileDetails = mysql_query($sql_GetFileDetails) or die ("No results for this FileID.
Your Query: " . $sql_GetFileDetails . "
Error: (" . mysql_errno() . ") " . mysql_error()); if (mysql_num_rows($result_GetFileDetails) != 1) { die ("A MySQL error has occurred.
Your Query: " . $sql_GetFileDetails . "
Error: (" . mysql_errno() . ") " . mysql_error()); } // Set the file object to get details from $FileDetailsArray = mysql_fetch_assoc($result_GetFileDetails); // Pull the list of file inodes $sql_GetFileDataNodeIDs = "SELECT FileDataID FROM file_data WHERE FileID = ".$_GET["id"]." order by FileDataID"; if (!$result_GetFileDataNodeIDs = mysql_query($sql_GetFileDataNodeIDs)) { die("Failure to retrive list of file inodes
Your Query: " . $sql_GetFileDataNodeIDs . "
Error: (" . mysql_errno() . ") " . mysql_error()); } while ($row_GetFileDataNodeIDs = mysql_fetch_assoc($result_GetFileDataNodeIDs)) { $nodelist[] = $row_GetFileDataNodeIDs["FileDataID"]; } $FileExtension = explode(".",$FileDetailsArray["FileName"]); $FileExtension = strtolower($FileExtension[1]); // Determine Content Type switch ($FileExtension) { case "mp3": $ctype="audio/mp3"; break; case "wav": $ctype="audio/wav"; break; case "pdf": $ctype="application/pdf"; break; //case "exe": $ctype="application/octet-stream"; break; case "zip": $ctype="application/zip"; break; case "doc": $ctype="application/msword"; break; case "xls": $ctype="application/vnd.ms-excel"; break; case "ppt": $ctype="application/vnd.ms-powerpoint"; break; case "gif": $ctype="application/force-download"; break; // This forces download, instead of viewing in browser. case "png": $ctype="application/force-download"; break; // This forces download, instead of viewing in browser. case "jpeg": $ctype="application/force-download"; break; // This forces download, instead of viewing in browser. case "jpg": $ctype="application/force-download"; break; // This forces download, instead of viewing in browser. default: $ctype="application/force-download"; // This forces download, instead of viewing in browser. } // Send down the header to the client header("Date: ".gmdate("D, j M Y H:i:s e", time())); header("Cache-Control: max-age=2592000"); //header("Last-Modified: ".gmdate("D, j M Y H:i:s e", $info['mtime'])); //header("Etag: ".sprintf("\"%x-%x-%x\"", $info['ino'], $info['size'], $info['mtime'])); header("Accept-Ranges: bytes"); //header("Cache-Control: Expires ".gmdate("D, j M Y H:i:s e", $info['mtime']+2592000)); header("Pragma: public"); // required header("Expires: 0"); header("Cache-Control: must-revalidate, post-check=0, pre-check=0"); header("Cache-Control: private",false); // required for certain browsers header("Content-Description: File Transfer"); header("Content-Disposition: attachment; filename=\"".$FileDetailsArray["FileName"]."\""); header("Content-Transfer-Encoding: binary"); header("Content-Type: ".$FileDetailsArray["FileSize"]); ob_end_clean(); ob_start(); ob_start("ob_gzhandler"); $sql_GetFileDataBlobs = "SELECT FileData FROM file_data WHERE FileID = ".$_GET["id"]." ORDER BY FileDataID ASC;"; if (!$result_GetFileDataBlobs = mysql_query($sql_GetFileDataBlobs)) { die("Failure to retrive list of file inodes
Your Query: " . $sql_GetFileDataBlobs . "
Error: (" . mysql_errno() . ") " . mysql_error()); } while ($row_GetFileDataBlobs = mysql_fetch_array($result_GetFileDataBlobs)) { echo $row_GetFileDataBlobs["FileData"]; } ob_end_flush(); header('Content-Length: '.ob_get_length()); ob_end_flush(); }

我已经使用了Xdebug并输出了峰值内存使用量的结果,但似乎没有任何东西可以接近极限,总的来说峰值内存使用量大约为900kb。

所以我认为它是将文件块聚合到内存中而不是让它们去或类似的东西,但是文件块是唯一能够达到该内存量的东西,导致脚本失败。

我可以提供将文件上传到数据库的脚本,以便您可以测试我的脚本,只是让我知道

为任何帮助干杯!

米克


* /////////已解决///////// *

我只想感谢hafichuk,回应很好并解决了我的整个问题。

问题有两个。

1 - 我没有在while循环中使用ob_flush()。我补充说,它似乎释放了大量内存,实现了更大的下载,但并非无限制。

例如,使用memory_limit = 128M,我现在可以下载超过40mb,实际上我现在可以达到200mb左右。但这是它再次失败的地方。但是,第一个内存问题解决了。

第1课:冲洗你的物体!

2 - 我使用mysql_query来检索SQL查询的结果。问题是它缓冲了这些结果,这增加了我的内存限制问题。

我最终使用了mysql_unbuffered_query,这现在可以完美运行。

但是这有一些限制,它会在读取结果时锁定您的表格。

第2课:如果不需要,不要缓冲mysql结果! (在程序限制范围内)

最后一课:

所有这些修复都有效,但是,它需要进行更多测试以确保它们的组合没有问题。

另外,我已经学习了很多关于对象和php内存分配的知识,我只是希望有一种方法可以比xdebug提供更好的视觉调试过程。如果有人对xdebug如何真正揭示这个过程有任何想法,请在评论中告诉我。

希望将来帮助其他人。

干杯

米克

1 个答案:

答案 0 :(得分:1)

你应该只需要在while循环中执行“ob_flush()”。这将清除页面的缓冲区。您需要删除列出内容长度的最后一个标题,因为您无法在数据启动后发送标题。这不应该是下载文件的问题,只更新下载的进度表。