bup(基于git的映像备份)如何计算存储对象的哈希值

时间:2016-07-17 02:57:21

标签: python git backup sha1 git-annex

bup备份程序(https://github.com/bup/bup)基于git版本控制系统的一些想法和一些功能,用于紧凑存储虚拟机映像。

bup中有bup ls子命令,当-s选项被传递时,它可以显示存储在备份中的对象的一些类似sha1的哈希值(相同的十六进制长度)(在{中{3}}只有“ -s, - hash:show hash for each files / directory。”)。但类似sha1的哈希不等于原始文件的sha1sum输出。

原始git通过在数据前加上“blob NNN \ 0”字符串来计算数据的sha1哈希,其中NNN是以字节为单位的对象大小,根据man bup-ls和{{3写成十进制}}

我测试了前缀`blob NNN \ 0',但仍然不是sha1 sum。

在bup中使用什么方法计算文件的哈希值?它是线性sha1还是像Merkle树一样的树状变体?目录的哈希是什么?

bup的ls命令的来源是How does git compute file hashes?,哈希只是以十六进制打印,但是生成了哈希?

def node_info(n, name, 
    ''' ....
    if show_hash:
        result += "%s " % n.hash.encode('hex')

是否在创建bup备份时生成了哈希值(当文件通过bup index + bup save命令放入备份时)并且只打印在bup ls上;或者它是否在每个bup ls上重新计算,并且可以用作bup备份的完整性测试?

1 个答案:

答案 0 :(得分:0)

bup将所有数据存储在一个裸git存储库中(默认情况下位于~/.bup)。因此bup的哈希计算方法完全复制git使用的哈希计算方法。

但是,与git的一个重要区别是bup可能会将文件拆分为块。如果bup决定将文件拆分为块,则该文件在存储库中表示为树而不是blob。在这种情况下,bup的文件散列与相应树的git散列重合。

以下脚本演示了:

<强> bup_hash_test

#!/bin/bash

bup init
BUPTEST=/tmp/bup_test
function test_bup_hash()
{
    bup index $BUPTEST &> /dev/null
    bup save -n buptest $BUPTEST &> /dev/null
    local buphash=$(bup ls -s buptest/latest$BUPTEST|cut -d' ' -f 1)
    echo "bup's hash: $buphash"
    echo "git's hash: $(git hash-object $BUPTEST)"
    echo git --git-dir \~/.bup cat-file -p $buphash
    git --git-dir ~/.bup cat-file -p $buphash
}

cat > $BUPTEST <<'END'
    http://pkgsrc.se/sysutils/bup
    http://cvsweb.netbsd.org/bsdweb.cgi/pkgsrc/sysutils/bup/
END

test_bup_hash

echo
echo

echo " -1" >> $BUPTEST

echo "After appending ' -1' line:"
test_bup_hash

echo
echo

echo "After replacing '-' with '#':"
sed -i 's/-/#/' $BUPTEST
test_bup_hash

<强>输出:

$ ./bup_hash_test
Initialized empty Git repository in ~/.bup/
bup's hash: b52baef90c17a508115ce05680bbb91d1d7bfd8d
git's hash: b52baef90c17a508115ce05680bbb91d1d7bfd8d
git --git-dir ~/.bup cat-file -p b52baef90c17a508115ce05680bbb91d1d7bfd8d
    http://pkgsrc.se/sysutils/bup
    http://cvsweb.netbsd.org/bsdweb.cgi/pkgsrc/sysutils/bup/


After appending ' -1' line:
bup's hash: c95b4a1fe1956418cb0e58e0a2c519622d8ce767
git's hash: b5bc4094328634ce6e2f4c41458514bab5f5cd7e
git --git-dir ~/.bup cat-file -p c95b4a1fe1956418cb0e58e0a2c519622d8ce767
100644 blob aa7770f6a52237f29a5d10b350fe877bf4626bd6    00
100644 blob d00491fd7e5bb6fa28c517a0bb32b8b506539d4d    61


After replacing '-' with '#':
bup's hash: cda9a69f1cbe66ff44ea6530330e51528563e32a
git's hash: cda9a69f1cbe66ff44ea6530330e51528563e32a
git --git-dir ~/.bup cat-file -p cda9a69f1cbe66ff44ea6530330e51528563e32a
    http://pkgsrc.se/sysutils/bup
    http://cvsweb.netbsd.org/bsdweb.cgi/pkgsrc/sysutils/bup/
 #1

正如我们所看到的,当bupgit的哈希值匹配时,bup存储库中的相应对象是具有预期内容的blob。当bupgit的哈希值不匹配时,带有bup哈希值的对象就是树。该树中blob的内容对应于完整文件的片段:

$ git --git-dir ~/.bup cat-file -p aa7770f6a52237f29a5d10b350fe877bf4626bd6
    http://pkgsrc.se/sysutils/bup
    http://cvsweb.netbsd.org/bsdweb.cgi/pkgsrc/sysutils/bup/
 -$ git --git-dir ~/.bup cat-file -p d00491fd7e5bb6fa28c517a0bb32b8b506539d4d
1