C在二进制文件的中间写入而不覆盖任何现有内容

时间:2012-05-06 02:51:11

标签: c file-io binaryfiles

今天的问题是我需要在起始位置的二进制文件中写一个数字数组。我有它应该开始的位置,我不想在此之后覆盖值,只是想将数组插入文件的起始位置。 E.g:

12345

让我们将456推到第2位:

12456345

我知道可能我必须自己实施,但我想知道您对如何尽可能有效地实施该建议有何看法。

4 个答案:

答案 0 :(得分:11)

这是一个功能extend_file_and_insert(),可以或多或少地完成工作。

#include <sys/stat.h>
#include <unistd.h>

enum { BUFFERSIZE = 64 * 1024 };

#define MIN(x, y) (((x) < (y)) ? (x) : (y))

/*
off_t   is signed
ssize_t is signed
size_t  is unsigned

off_t   for lseek() offset and return
size_t  for read()/write() length
ssize_t for read()/write() return
off_t   for st_size
*/

static int extend_file_and_insert(int fd, off_t offset, char const *insert, size_t inslen)
{
    char buffer[BUFFERSIZE];
    struct stat sb;
    int rc = -1;

    if (fstat(fd, &sb) == 0)
    {
        if (sb.st_size > offset)
        {
            /* Move data after offset up by inslen bytes */
            size_t bytes_to_move = sb.st_size - offset;
            off_t read_end_offset = sb.st_size; 
            while (bytes_to_move != 0)
            {
                ssize_t bytes_this_time = MIN(BUFFERSIZE, bytes_to_move);
                ssize_t rd_off = read_end_offset - bytes_this_time;
                ssize_t wr_off = rd_off + inslen;
                lseek(fd, rd_off, SEEK_SET);
                if (read(fd, buffer, bytes_this_time) != bytes_this_time)
                    return -1;
                lseek(fd, wr_off, SEEK_SET);
                if (write(fd, buffer, bytes_this_time) != bytes_this_time)
                    return -1;
                bytes_to_move -= bytes_this_time;
                read_end_offset -= bytes_this_time; /* Added 2013-07-19 */
            }   
        }   
        lseek(fd, offset, SEEK_SET);
        write(fd, insert, inslen);
        rc = 0;
    }   
    return rc;
}

(注意添加的新行2013-07-19;这是一个只显示缓冲区大小小于要复制到文件中的数据量的错误。感谢malat指出错误。现在使用BUFFERSIZE = 4测试代码。)

这是一些小规模的测试代码:

#include <fcntl.h>
#include <string.h>

static const char base_data[] = "12345";
typedef struct Data
{
    off_t       posn;
    const char *data;
} Data;
static const Data insert[] =
{
    {  2, "456"                       },
    {  4, "XxxxxxX"                   },
    { 12, "ZzzzzzzzzzzzzzzzzzzzzzzzX" },
    { 22, "YyyyyyyyyyyyyyyY"          },
};  
enum { NUM_INSERT = sizeof(insert) / sizeof(insert[0]) };

int main(void)
{
    int fd = open("test.dat", O_RDWR | O_TRUNC | O_CREAT, 0644);
    if (fd > 0)
    {
        ssize_t base_len = sizeof(base_data) - 1;
        if (write(fd, base_data, base_len) == base_len)
        {
            for (int i = 0; i < NUM_INSERT; i++)
            {
                off_t length = strlen(insert[i].data);
                if (extend_file_and_insert(fd, insert[i].posn, insert[i].data, length) != 0)
                    break;
                lseek(fd, 0, SEEK_SET);
                char buffer[BUFFERSIZE];
                ssize_t nbytes;
                while ((nbytes = read(fd, buffer, sizeof(buffer))) > 0)
                    write(1, buffer, nbytes);
                write(1, "\n", 1);
            }
        }
        close(fd);
    }
    return(0);
}

它产生输出:

12456345
1245XxxxxxX6345
1245XxxxxxX6ZzzzzzzzzzzzzzzzzzzzzzzzZ345
1245XxxxxxX6ZzzzzzzzzzYyyyyyyyyyyyyyyYzzzzzzzzzzzzzzZ345

应该在一些较大的文件上测试(比BUFFERSIZE更大的文件,但是使用比64 KiB小得多的BUFFERSIZE进行测试是明智的;我使用了32个字节,看起来没问题)。我只关注结果,但模式旨在让人们很容易看出它们是正确的。该代码不会检查任何lseek()次调用;这是一个小风险。

答案 1 :(得分:5)

首先,使用ftruncate()将文件放大到最终大小。然后将所有内容从旧端复制到新端,继续前进到插入点。然后用要插入的数据覆盖中间内容。我认为这是有效的,因为文件系统通常不会在文件中间提供真正的“插入”。

答案 2 :(得分:0)

我将把你的问题广义地解释为“如何有效地实现一个对象的持久存储,该对象支持通过索引进行随机访问查找,并通过扩展进行插入。”如上所述,您可以在文件中使用简单的线性数组,但这只能用于查找(O(1)),并且插入效率非常低(O(n))。您可以使用树数据结构来实现查找和插入的O(log n)。维护一个充当索引的文件,另一个充当数据存储并且是一系列块。每个块可以部分填满。索引文件包含一个树(二叉树或B树),其中每个节点对应于数组的某个连续块,并包含该块的大小(以便根节点包含整个数组的大小)。对于二叉树,左子节点和右子节点包含数组的左半部分(大约)的大小。最后,叶节点包含指向数据存储文件中包含实际数据的块的指针。插入现在涉及更改'k'节点的'size'属性,其中'k'是树的高度。当数据存储块太满时,将其拆分(通过增长文件来分配新的,或者,如果您也支持删除,可能来自空块的空闲列表)并重新平衡树(许多标准方法)此。)

这听起来很复杂吗?非也!高效的中间文件插入比附加更加复杂。

答案 3 :(得分:0)

我同意其他人的意见,但让我用不同的方式说明解决方案:

  1. 获取临时文件名(有针对此操作系统的特定调用)

  2. 将原始文件复制到临时文件(现在有两个相同文件的副本)

  3. 打开原始文件“append”。

  4. “截断”它到您的插入点

  5. 撰写新数据

  6. 打开临时文件“read”

  7. “寻找”到插入点(再次,调用是特定于操作系统的)

  8. 读取临时文件中的文件结尾;插入原始文件(仍然打开“追加”)。

  9. 关闭两个文件

  10. 删除临时文件