写入文件系统数据库中的现有文件

时间:2019-05-09 18:55:06

标签: php database file database-design filesystems

我有一个函数,每隔几分钟在固定名称的〜8000 .md文件上写入〜120Kb-150Kb HTML和元数据:

a-agilent-technologies-healthcare-nyse-us-39d4
aa-alcoa-basic-materials-nyse-us-159a
aaau-perth-mint-physical-gold--nyse-us-8ed9
aaba-altaba-financial-services-nasdaq-us-26f5
aac-healthcare-nyse-us-e92a
aadr-advisorshares-dorsey-wright-adr--nyse-us-d842
aal-airlines-industrials-nasdaq-us-29eb
  • 如果文件不存在,它会非常快速地生成/写入。
  • 但是,如果该文件存在,则其执行速度要慢得多,因为现有文件会携带约150KB数据。

我该如何解决这个问题?

我是否在同一目录中生成一个具有新名称的新文件,并在for循环中取消链接旧文件?

还是我生成一个新文件夹并写入所有文件,然后取消链接上一个目录?这种方法的问题在于,有时90%的文件被重写,而有些则保持不变。


代码

此函数在for循环中被调用,您可以在此link中看到它

public static function writeFinalStringOnDatabase($equity_symbol, $md_file_content, $no_extension_filename)
{
    /**
     *@var is the MD file content with meta and entire HTML
     */
    $md_file_content = $md_file_content . ConfigConstants::NEW_LINE . ConfigConstants::NEW_LINE;
    $dir = __DIR__ . ConfigConstants::DIR_FRONT_SYMBOLS_MD_FILES; // symbols front directory
    $new_filename = EQ::generateFileNameFromLeadingURL($no_extension_filename, $dir);

    if (file_exists($new_filename)) {
        if (is_writable($new_filename)) {
            file_put_contents($new_filename, $md_file_content);
            if (EQ::isLocalServer()) {
                echo $equity_symbol . "  " . ConfigConstants::NEW_LINE;
            }

        } else {
            if (EQ::isLocalServer()) {
                echo $equity_symbol . " symbol MD file is not writable in " . __METHOD__ . "  Maybe, check permissions!" . ConfigConstants::NEW_LINE;
            }
        }
    } else {
        $fh = fopen($new_filename, 'wb');
        fwrite($fh, $md_file_content);
        fclose($fh);
        if (EQ::isLocalServer()) {
            echo $equity_symbol . " front md file does not exit in " . __METHOD__ . " It's writing on the database now " . ConfigConstants::NEW_LINE;
        }

    }

}

1 个答案:

答案 0 :(得分:1)

我已经多年没有使用PHP编程了,但是今天这个问题引起了我的兴趣。 :D

建议

  

如何解决此问题?     是否要在同一目录中生成一个具有新名称的新文件,并在for循环中取消链接旧文件?

再次使用3个好友fopen()fwrite()fclose(),因为fwrite还将覆盖现有文件的全部内容。

if (file_exists($new_filename)) {
    if (is_writable($new_filename)) {
        $fh = fopen($new_filename,'wb');
        fwrite($fh, $md_file_content);
        fclose($fh);

        if (EQ::isLocalServer()) {
            echo $equity_symbol . "  " . ConfigConstants::NEW_LINE;
        }
    } else {
        if (EQ::isLocalServer()) {
            echo $equity_symbol . " symbol MD file is not writable in " . __METHOD__ . "  Maybe, check permissions!" . ConfigConstants::NEW_LINE;
        }
    }
} else {
    $fh = fopen($new_filename, 'wb');
    fwrite($fh, $md_file_content);
    fclose($fh);
    if (EQ::isLocalServer()) {
        echo $equity_symbol . " front md file does not exit in " . __METHOD__ . " It's writing on the database now " . ConfigConstants::NEW_LINE;
    }
}

出于 DRY 原则:

// It's smart to put the logging and similar tasks in a separate function, 
// after you end up writing the same thing over and over again.
public static function log($content)
{
    if (EQ::isLocalServer()) {
        echo $content;
    }
}

public static function writeFinalStringOnDatabase($equity_symbol, $md_file_content, $no_extension_filename)
{
    $md_file_content = $md_file_content . ConfigConstants::NEW_LINE . ConfigConstants::NEW_LINE;
    $dir = __DIR__ . ConfigConstants::DIR_FRONT_SYMBOLS_MD_FILES; // symbols front directory
    $new_filename = EQ::generateFileNameFromLeadingURL($no_extension_filename, $dir);
    $file_already_exists = file_exists($new_filename);

    if ($file_already_exists && !is_writable($new_filename)) {
        EQ::log($equity_symbol . " symbol MD file is not writable in " . __METHOD__ . "  Maybe, check permissions!" . ConfigConstants::NEW_LINE);
    } else {
        $fh = fopen($new_filename,'wb'); // you should also check whether fopen succeeded
        fwrite($fh, $md_file_content); // you should also check whether fwrite succeeded

        if ($file_already_exists) {
            EQ::log($equity_symbol . "  " . ConfigConstants::NEW_LINE);
        } else {
            EQ::log($equity_symbol . " front md file does not exit in " . __METHOD__ . " It's writing on the database now " . ConfigConstants::NEW_LINE);
        }

        fclose($fh);
    }
}

可能的原因

tl; dr 由于使用了the Zend string API,因此开销很大。

官方PHP manual说:

  

file_put_contents()等同于依次调用fopen()fwrite()fclose()将数据写入文件。

但是,如果您查看source code of PHP on GitHub,则可以看到在file_put_contents()fwrite()中,“写入数据”部分所做的略有不同。

  • fwrite函数中,直接访问原始输入数据(= $md_file_content),以便将缓冲区数据写入流上下文:

    Line 1171

ret = php_stream_write(stream, input, num_bytes);
  • 另一方面,在file_put_contents函数中使用了the Zend string API(我以前从未听说过)。 由于某种原因,此处封装了输入数据和长度。

    Line 662

numbytes = php_stream_write(stream, Z_STRVAL_P(data), Z_STRLEN_P(data));

(如果您有兴趣,Z_STR....宏将定义为here)。

因此,我怀疑是 Zend字符串API 在使用file_put_contents时造成了开销。


边注

起初,我认为每个file_put_contents()调用都会创建一个新的流上下文,因为与创建上下文相关的行也略有不同:

PHP_NAMED_FUNCTION(php_if_fopen)Reference):

context = php_stream_context_from_zval(zcontext, 0);

PHP_FUNCTION(file_put_contents)Reference):

context = php_stream_context_from_zval(zcontext, flags & PHP_FILE_NO_DEFAULT_CONTEXT);

但是,仔细检查后,php_stream_context_from_zval调用实际上是使用相同的参数进行的,即第一个参数zcontextnull,并且由于您没有传递任何{从{1}}到flagsfile_put_contents也变成flags & PHP_FILE_NO_DEFAULT_CONTEXT,并作为第二个参数传递。

因此,我猜想default stream context在每次通话时都在这里重复使用。由于它显然是0类型的流,因此不会在php_stream_close()调用之后进行处理。 因此,正如德国人所说, Fazit 在这两种情况下,显然都没有额外的开销,也没有相同的开销来创建或重用流上下文。

感谢您阅读。