如何使用C ++在> 4GB文件中写入数据?

时间:2011-08-21 00:33:38

标签: c++ file

我正在尝试编写一个大文件,但遇到了问题。

我长时间寻找一个地方写,但不能写超过4,2Gb的文件。我忘记了什么?

更多细节: 我打开4Gb文件:

ifstream ifs(db_name.c_str(), ios_base::binary);
if (!ifs) 
    throw Bad_archive();
ifs.read(as_bytes(seg_size), sizeof(int));
ifs.read(as_bytes(last_idx), sizeof(int));
ifs.read(as_bytes(free_segs), sizeof(int));
if (free_segs > 0)
{
    long long seek_g = 3 * sizeof(int) + (long long)last_idx * seg_size;
    ifs.seekg(seek_g, ios_base::beg);
    for (int i = 0; i < free_segs; i++)
    {
        int tmp = 0;
        ifs.read(as_bytes(tmp), sizeof(int));
        free_spaces.push_back(tmp);
    }
}
ifs.close();

之后,我读了400Mb文件,我想添加到db。并写(这是短代码):

// write object
ofstream ofs(db_name.c_str(), ios_base::binary | ios_base::in | ios_base::ate);
for (int i = 0; ; i++)
{
    // set stream position
    long long write_position = sizeof(int) * 3;

    ...

    write_position += (long long) seg_size * last_idx;
    ofs.seekp(write_position, ios::beg);

            ...

    // write sizeof object
    if (i == 0)
        ofs.write(as_bytes(object_size), sizeof(object_size)); 
    else
    {
        int null = 0;
        ofs.write(as_bytes(null), sizeof(null));
    }

    // write data
    for (int j = 0; j < (seg_size - sizeof(int) * 2); j++)
    {
        ofs.write(as_bytes(obj_content[j + i * (seg_size - sizeof(int) * 2)]), 
        sizeof(char));

    }
    if (write_new_seg)
        last_idx++;

    ...

    ofs.write(as_bytes(cont_seg), sizeof(cont_seg));
}
ofs.close();

之后,我保存了db info:

if (last_idx == 0)
{
    ofstream ofs(db_name.c_str());
    ofs.close();
}
ofstream ofs(db_name.c_str(), ios_base::binary | ios_base::in | 
            ios_base::out | ios_base::ate);
long long seek_p = 0;
ofs.seekp(seek_p, ios_base::beg);
ofs.write(as_bytes(seg_size), sizeof(seg_size));
ofs.write(as_bytes(last_idx), sizeof(last_idx));
ofs.write(as_bytes(free_segs), sizeof(free_segs));
ofs.close();

但是这段代码有效:

ofstream ofs2("huge2");
ofs2.close();
ofstream ofs("huge2", ios_base::in | ios_base::ate);
long long sp = 10000000000;
ofs.seekp(10000000000, ios_base::beg);

ofs.write(as_bytes(sp), sizeof(sp));

ofs.close();

4 个答案:

答案 0 :(得分:4)

    fseeko64 (Filename, 0, SEEK_END);
    long size = ftello64 (Filename);
    fclose (Filename);

为了访问大文件,不能使用fseek,而是必须去fseeko64();

答案 1 :(得分:1)

在Win32上有一个名为_lseeki64()的函数,在* nix上有一个名为lseek64()的函数。但是,iostream库不直接包装它们,你必须以某种方式检索文件描述符,并做一些关于缓冲的事情。

答案 2 :(得分:0)

许多filesystems不支持大于4GB的文件。此外,您应该考虑int类型的范围可能以2^32结尾,即4.29497e + 09。

答案 3 :(得分:0)

这里有一个很好的Linux摘要:

http://www.suse.de/~aj/linux_lfs.html

RedHat针对RHEL的更具体细节,这些问题通常适用于访问64位大小文件的32位应用程序。

http://people.redhat.com/berrange/notes/largefile.html

维基百科实际上在Large File Support上有一个技巧,但实际上并不那么有用。