比较图片并删除重复项

时间:2015-05-05 17:23:05

标签: image compare imagemagick png

我有两个带图片的文件夹,他们是所有PNG。一个文件夹是另一个文件夹的副本,其中一些图像已更改,一些已添加。文件名相同,但图像内容可能不同。遗憾的是,时间戳等其他属性完全是随机的。

我希望在较新的文件夹中删除重复项(按内容)并保留更新的和新的文件夹。

我安装了ImageMagick以使用compare命令,但我无法弄明白。 :-(你能帮帮我吗?先谢谢你!

补充:我在Mac OS X上。

2 个答案:

答案 0 :(得分:7)

你没有说你是否在OSX / Linux或Windows上,但是,我可以帮助你入门。无论日期或时间戳如何,ImageMagick都可以计算图像中所有像素数据的哈希值(校验和)

identify -format "%# %f\n" *.png

25a3591a58550edd2cff65081eab11a86a6a62e006431c8c4393db8d71a1dfe4 blue.png
304c0994c751e75eac86bedac544f716560be5c359786f7a5c3cd6cb8d2294df green.png
466f1bac727ac8090ba2a9a13df8bfb6ada3c4eb3349087ce5dc5d14040514b5 grey.png
042a7ebd78e53a89c0afabfe569a9930c6412577fcf3bcfbce7bafe683e93e8a hue.png
d819bfdc58ac7c48d154924e445188f0ac5a0536cd989bdf079deca86abb12a0 lightness.png
b63ad69a056033a300f23c31f9425df6f469e79c2b9f3a5c515db3b52c323a65 montage.png
a42a5f0abac3bd2f6b4cbfde864342401847a120dacae63294edb45b38edd34e red.png
10bf63fd725c5e02c56df54f503d0544f14f754d852549098d5babd8d3daeb84 sample.png
e95042f227d2d7b2b3edd4c7eec05bbf765a09484563c5ff18bc8e8aa32c1a8e sat.png

因此,如果您在每个文件夹中执行此操作,您将在每个文件夹的单独文件中将所有文件的校验和及其名称放在旁边。

如果您然后合并这两个文件并对它们进行排序,您可以很容易地找到重复项,因为重复的文件将彼此相邻。

假设您在两个文件夹diradirb中运行上述命令

cd dira
identify -format "%# %f\n" *.png > $HOME/dira

cd dirb
identify -format "%# %f\n" *.png > $HOME/dirb

然后你可以在awk

中做这样的事情
awk 'FNR==NR{name[$1]=$2;next}
            { 
               if($1 in name){print $2 " duplicates " name[$1]}
            }' $HOME/dir*

因此,$HOME/dir*部分将这两个文件传递到awk{}之后的FNR==NR中的片段仅适用于读入的第一个文件,并且在读取时,我们保存由包含文件名的散列索引的关联数组。然后,在第二遍,我们检查是否已经看到每个哈希,如果有,我们说它是重复的并输出我们在哈希name[]的第一次传递中找到的名称和名称我们在$ 2的第二次传球中找到了。

这对于带有空格的文件名不起作用,所以如果这是一个问题,请更改identify命令在哈希和文件名之间添加冒号,如下所示:

identify -format "%#:%f\n" *.png

并将awk更改为awk -F":",它应该再次有效。

答案 1 :(得分:1)

这是我对Powershell的丑陋解决方案(现在是一个多平台解决方案) - 我写了一次性的但它应该有效。我试着对它进行评论,以弥补它有多糟糕。

但是,在执行此操作之前,我会备份您的图片。以防万一。

这里的问题是它只检测每个文件是否与前一个文件重复 - 如果你需要检查每个文件是否与任何其他文件重复,你需要嵌套另一个for()循环在那里,这应该很容易。

#get the list of files with imagemagick
#powershell handily populates $files as an array, split by line
#this will take a bit
$files = identify -format "%# %f\n" *.png

$arr = @()
foreach($line in $files) {
    #add 2 keys to the new array per line (hash and then filename)
    $arr += @($line.Split(" "))
}

#for every 2 keys (eg each hash)
for($i = 2; $i -lt $arr.Length; $i += 2) {
    #compare it to the last hash
    if($arr[$i] -eq $arr[$i-2]) {
        #print a helpful message and then delete
        echo "$($arr[$i].Substring(0,16)) = $($arr[$i-2].Substring(0,16)) (removing $($arr[$i+1]))"
        remove-item ($arr[$i+1])
    }
}

奖励:删除任何带有特定哈希的图像(在我的情况下全黑640×480 png):

for($i = 2; $i -lt $arr.Length; $i += 2) {
    if($arr[$i] -eq "f824c1a8a1128713f17dd8d1190d70e6012b509606d986e7a6c81e40b628df2b") {
        echo "$($arr[$i+1])"
        remove-item ($arr[$i+1])
    }
}

双重奖励:C代码,用于检查写入的图像是否与hash/文件夹中的给定哈希冲突,如果是,则将其删除 - 为Windows / MinGW编写,但如果需要,不应该太难移植。可能是多余的,但我想我会把它扔出去,以防它对任何人都有用。

char filename[256] = "output/UNINITIALIZED.ppm";
unsigned long int timeint = time(NULL);
sprintf(filename, "../output/image%lu.ppm", timeint);
if(
    writeppm(
        filename,
        SCREEN_WIDTH,
        SCREEN_HEIGHT,
        screenSurface->pixels
        ) != 0
) {
    printf("image write error!\n");
    return;
}
char shacmd[256];
sprintf(shacmd, "sha256sum %s", filename);
FILE *file = popen(shacmd, "r");
if(file == NULL) {
    printf("failed to get image hash!\n");
    return;
}
//the hash is 64 characters but we need a 0 at the end too
char sha[96];
int i;
char c;
//get hash until the first space
for(i = 0; (i < 64) && (c != EOF) && (c != 0x32); i++) {
    sha[i] = c = fgetc(file);
}
pclose(file);

char hashfilename[256];
sprintf(hashfilename, "../output/hash/%s", sha);

if(_access(hashfilename, 0) != -1) {
    //file exists, delete img
    if(unlink(filename) != 0) {
        printf("image delete error!\n");
    }
} else {
    FILE *hashfile = fopen(hashfilename, "w");
    if(hashfile == NULL)
        printf("hash file write error!\nfilename: %s\n", hashfilename);
    fclose(hashfile);
}