使用php-fpm / Nginx下载脚本会导致高负载CPU

时间:2013-11-16 19:44:39

标签: nginx download php

我有一个很好的服务器用于文件共享,我在下载脚本时遇到问题。 我使用在nginx上运行的PHP-FPM。

服务器规格:

2x Intel Xeon E5
CPU: 92GB RAM
10x2TB (RAID6)
And we use 1 SSD disk for CashCade

当我在apache服务器上播放这个脚本时,它工作正常,但我想在nginx服务器上运行它,因为apache占用了大量内存。 (内存) 但是当我在nginx上运行这个脚本时,会发生一些真正有线的事情 - 它需要30%来自CPU,只有一次下载! 请注意,从下载开始3-4分钟后,CPU负载恢复正常(但下载继续)。

这是LINUX中的“TOP”当我下载时...... When I'm Downloading

我不知道为什么,但PHP-FPM脚本从CPU中获取了很多。脚本:

class ResumeDownload {
    private $file;
    private $name;
    private $boundary;
    private $delay = 0;
    private $size = 0;

    function __construct($file, $delay = 0) {
        if (! is_file($file)) {
            header("HTTP/1.1 400 Invalid Request");
            die("<h3>File Not Found</h3>");
        }

        $this->size = filesize($file);
        $this->file = fopen($file, "r");
        $this->boundary = md5($file);
        $this->delay = $delay;
        $this->name = basename($file);
    }

    public function process() {
        $ranges = NULL;
        $t = 0;
        if ($_SERVER['REQUEST_METHOD'] == 'GET' && isset($_SERVER['HTTP_RANGE']) && $range = stristr(trim($_SERVER['HTTP_RANGE']), 'bytes=')) {
            $range = substr($range, 6);
            $ranges = explode(',', $range);
            $t = count($ranges);
        }

        header("Accept-Ranges: bytes");
        header("Content-Type: application/octet-stream");
        header("Content-Transfer-Encoding: binary");
        header(sprintf('Content-Disposition: attachment; filename="%s"', $this->name));

        if ($t > 0) {
            header("HTTP/1.1 206 Partial content");
            $t === 1 ? $this->pushSingle($range) : $this->pushMulti($ranges);
        } else {
            header("Content-Length: " . $this->size);
            $this->readFile();
        }

        flush();
    }

    private function pushSingle($range) {
        $start = $end = 0;
        $this->getRange($range, $start, $end);
        header("Content-Length: " . ($end - $start + 1));
        header(sprintf("Content-Range: bytes %d-%d/%d", $start, $end, $this->size));
        fseek($this->file, $start);
        $this->readBuffer($end - $start + 1);
        $this->readFile();
    }

    private function pushMulti($ranges) {
        $length = $start = $end = 0;
        $output = "";

        $tl = "Content-type: application/octet-stream\r\n";
        $formatRange = "Content-range: bytes %d-%d/%d\r\n\r\n";

        foreach ( $ranges as $range ) {
            $this->getRange($range, $start, $end);
            $length += strlen("\r\n--$this->boundary\r\n");
            $length += strlen($tl);
            $length += strlen(sprintf($formatRange, $start, $end, $this->size));
            $length += $end - $start + 1;
        }
        $length += strlen("\r\n--$this->boundary--\r\n");
        header("Content-Length: $length");
        header("Content-Type: multipart/x-byteranges; boundary=$this->boundary");
        foreach ( $ranges as $range ) {
            $this->getRange($range, $start, $end);
            echo "\r\n--$this->boundary\r\n";
            echo $tl;
            echo sprintf($formatRange, $start, $end, $this->size);
            fseek($this->file, $start);
            $this->readBuffer($end - $start + 1);
        }
        echo "\r\n--$this->boundary--\r\n";
    }

    private function getRange($range, &$start, &$end) {
        list($start, $end) = explode('-', $range);

        $fileSize = $this->size;
        if ($start == '') {
            $tmp = $end;
            $end = $fileSize - 1;
            $start = $fileSize - $tmp;
            if ($start < 0)
                $start = 0;
        } else {
            if ($end == '' || $end > $fileSize - 1)
                $end = $fileSize - 1;
        }

        if ($start > $end) {
            header("Status: 416 Requested range not satisfiable");
            header("Content-Range: */" . $fileSize);
            exit();
        }

        return array(
                $start,
                $end
        );
    }

    private function readFile() {
        while ( ! feof($this->file) ) {
            echo fgets($this->file);
            flush();
            usleep($this->delay);
        }
    }

    private function readBuffer($bytes, $size = 1024) {
        $bytesLeft = $bytes;
        while ( $bytesLeft > 0 && ! feof($this->file) ) {
            $bytesLeft > $size ? $bytesRead = $size : $bytesRead = $bytesLeft;
            $bytesLeft -= $bytesRead;
            echo fread($this->file, $bytesRead);
            flush();
            usleep($this->delay);
        }
    }
}

download.php(我运行脚本的地方)

// ... some code that get the file details from extrenal Database...

$fileArr = $query->fetch_assoc();
$file = 'uploads/' . $download['fileid'] . '/' . $fileArr['name'];

if(file_exists($file)) {
    $mysqli->close();
    require 'class.download.php';
    set_time_limit(0);
    $download = new ResumeDownload($file, 0); //delay about in microsecs 
    $download->process();
}

2 个答案:

答案 0 :(得分:1)

  

我不知道为什么,但PHP-FPM脚本从CPU中占用了很多。

是什么让你认为这是一个问题?当服务器没有CPU限制时,程序将尽可能快地运行,因为它们可以使用尽可能多的CPU。高CPU使用率真正重要的唯一时间是服务器无法足够快地处理请求,因为所有脚本都在竞争使用CPU资源,并阻止彼此运行。

你的脚本尽可能快地运行(即使用尽可能多的CPU),因为你已告诉它:

$download = new ResumeDownload($file, 0); //delay about in microsecs

即。您的下载脚本不会等待,因此它可以尽可能快地循环以将数据推送到网络连接中。

很明显,服务器可以将数据推送到网络连接的速度比通过互联网发送的速度快,所以很多时候你的脚本只是循环并等待网络连接才能发送数据 - 正如所证明的那样在顶部&#39;顶部的高空闲时间输出

您可以设置延迟以使脚本实际处于休眠状态,或者您可以使用Nginx x-accel从PHP中完全删除负载。这里有一个配置:Serve large file with PHP and nginx X-Accel-Redirect这在你实际上受CPU限制的情况下会更有效。

答案 1 :(得分:0)

增加此方法的延迟:

 $download = new ResumeDownload($file, 500); //delay about in microsecs

或者使用nginx x-accel-redirect而不是ResumeDownload类