通过php进行大文件上传(0 - 5GB)的高效方法

时间:2014-08-17 14:25:54

标签: php apache upload chunked large-file-upload

我一直在寻找一种好方法,并将头撞在墙上。

在文件共享服务项目中,我被指派确定可用于上传大文件的最佳方法。

在stackoverflow和其他论坛上搜索了很多问题之后,我得到的是:

  1. 增加脚本最长执行时间以及允许的最大文件大小

    这种情况确实不合适。每次通过普通宽带连接(1mbps-2mbps)上传文件时,它几乎会超时。即使在上传完成后执行PHP脚本,仍然无法保证上传不会超时。

  2. 分块上传。

    虽然我有点理解我应该在这里做什么,但我感到困惑的是,比如上传一个1GB的文件,而且我是以大块的方式阅读它2MB,如果上传速度慢,php脚本执行将超时并给出错误。

  3. 使用其他语言,如Java和Perl?

    使用java或perl处理文件上传是否真的有效?

  4. 客户端使用的方法不是问题,因为我们将发布客户端SDK,并且可以在其中实现我们选择的方法。客户端和服务器端实现都将由我们决定。

    根据您的说法,哪种方法应该是最好的方法,考虑到内存使用应该是高效的,并且可能会有许多并发上传?

    Dropbox和类似的云存储服务如何处理大文件上传,并且仍能保持快速上传?

2 个答案:

答案 0 :(得分:3)

我建议你使用AJAX的PHP I / O流。这将使服务器上的内存占用率保持在较低水平,您可以轻松构建异步文件上载。请注意,这使用仅在现代浏览器中可用的HTML5 API。

查看此帖子:http://www.webiny.com/blog/2012/05/07/webiny-file-upload-with-html5-and-ajax-using-php-streams/

粘贴文章中的代码:

HTML

<input type="file" name="upload_files" id="upload_files" multiple="multiple">

JS

function upload(fileInputId, fileIndex)
    {
        // take the file from the input
        var file = document.getElementById(fileInputId).files[fileIndex];
        var reader = new FileReader();
        reader.readAsBinaryString(file); // alternatively you can use readAsDataURL
        reader.onloadend  = function(evt)
        {
                // create XHR instance
                xhr = new XMLHttpRequest();

                // send the file through POST
                xhr.open("POST", 'upload.php', true);

                // make sure we have the sendAsBinary method on all browsers
                XMLHttpRequest.prototype.mySendAsBinary = function(text){
                    var data = new ArrayBuffer(text.length);
                    var ui8a = new Uint8Array(data, 0);
                    for (var i = 0; i < text.length; i++) ui8a[i] = (text.charCodeAt(i) & 0xff);

                    if(typeof window.Blob == "function")
                    {
                         var blob = new Blob([data]);
                    }else{
                         var bb = new (window.MozBlobBuilder || window.WebKitBlobBuilder || window.BlobBuilder)();
                         bb.append(data);
                         var blob = bb.getBlob();
                    }

                    this.send(blob);
                }

                // let's track upload progress
                var eventSource = xhr.upload || xhr;
                eventSource.addEventListener("progress", function(e) {
                    // get percentage of how much of the current file has been sent
                    var position = e.position || e.loaded;
                    var total = e.totalSize || e.total;
                    var percentage = Math.round((position/total)*100);

                    // here you should write your own code how you wish to proces this
                });

                // state change observer - we need to know when and if the file was successfully uploaded
                xhr.onreadystatechange = function()
                {
                    if(xhr.readyState == 4)
                    {
                        if(xhr.status == 200)
                        {
                            // process success
                        }else{
                            // process error
                        }
                    }
                };

                // start sending
                xhr.mySendAsBinary(evt.target.result);
        };
    }

PHP

// read contents from the input stream
$inputHandler = fopen('php://input', "r");
// create a temp file where to save data from the input stream
$fileHandler = fopen('/tmp/myfile.tmp', "w+");

// save data from the input stream
while(true) {
    $buffer = fgets($inputHandler, 4096);
    if (strlen($buffer) == 0) {
        fclose($inputHandler);
        fclose($fileHandler);
        return true;
    }

    fwrite($fileHandler, $buffer);
}

答案 1 :(得分:1)

可能是基于tus HTTP的可恢复文件上传协议及其实现吗?

https://tus.io/

https://github.com/tus

https://github.com/ankitpokhrel/tus-php