来自文件的Grep失败但grep与文件中的各个行有效

时间:2016-03-26 06:16:21

标签: bash grep

我正在尝试从文件genome.gff中提取包含来自文件suspicious.txt的行的行。 suspicious.txt来自genome.gff,每一行都应匹配。

在suspicious.txt的一行中使用grep按预期工作:

grep 'gene10002' genome.gff
NC_007082.3 Gnomon  gene    1269632 1273520 .   +   .   ID=gene10002;Dbxref=BEEBASE:GB54789,GeneID:409846;Name=bur;gbkey=Gene;gene=bur;gene_biotype=protein_coding
NC_007082.3 Gnomon  mRNA    1269632 1273520 .   +   .   ID=rna21310;Parent=gene10002;Dbxref=GeneID:409846,Genbank:XM_393336.5,BEEBASE:GB54789;Name=XM_393336.5;gbkey=mRNA;gene=bur;product=burgundy;transcript_id=XM_393336.5

但是,从我能够在线或在线查找的文件中使用grep的每个变体都不会产生输出或空文件:

grep -f suspicious.txt genome.gff
grep -F -f suspicious.txt genome.gff
while read line; do grep "$line" genome.gff; done<suspicious.txt
while read line; do grep '$line' genome.gff; done<suspicious.txt
while read line; do grep "${line}" genome.gff; done<suspicious.txt
cat suspicious.txt | while read line; do grep '$line' genome.gff; done
cat suspicious.txt | while read line; do grep '$line' genome.gff >> suspicious.gff; done
cat suspicious.txt | while read line; do grep -e "${line}" genome.gff >> suspicious.gff; done
cat "$(cat suspicious_bee_geneIDs_test.txt)" | while read line; do grep -e "${line}" genome.gff >> suspicious.gff; done

将其作为脚本运行也会产生一个空文件:

#!/bin/bash
SUSP=$1
GFF=$2

while read -r line; do
        grep -e "${line}" $GFF >> suspicious_bee_genes.gff
done<$SUSP

这就是文件的样子:

head genome.gff
##gff-version 3
#!gff-spec-version 1.21
#!processor NCBI annotwriter
#!genome-build Amel_4.5
#!genome-build-accession NCBI_Assembly:GCF_000002195.4
##sequence-region NC_007070.3 1 29893408
##species http://www.ncbi.nlm.nih.gov/Taxonomy/Browser/wwwtax.cgi?id=7460
NC_007070.3 RefSeq  region  1   29893408    .   +   .       ID=id0;Dbxref=taxon:7460;Name=LG1;gbkey=Src;genome=chromosome;linkage-    group=LG1;mol_type=genomic DNA;strain=DH4
NC_007070.3 Gnomon  gene    181 211962  .   -   .   ID=gene0;Dbxref=BEEBASE:GB42164,GeneID:726912;Name=cort;gbkey=Gene;gene=cort;gene_biotype=protein_coding
NC_007070.3 Gnomon  mRNA    181 71559   .   -   .   ID=rna0;Parent=gene0;Dbxref=GeneID:726912,Genbank:XM_006557348.1,BEEBASE:GB42164;Name=XM_006557348.1;gbkey=mRNA;gene=cort;product=cortex%2C transcript variant X2;transcript_id=XM_006557348.1

wc -l genome.gff
457742

head suspicious.txt
gene10002
gene1001
gene1003
gene10038
gene10048
gene10088
gene10132
gene10134
gene10181
gene10209

wc -l suspicious.txt
928

有谁知道这里出了什么问题?

1 个答案:

答案 0 :(得分:2)

当输入文件为DOS格式时会发生这种情况:每一行的末尾都会有一个尾随的CR字符,这会破坏匹配。

检查是否是这种情况的一种方法是使用new fragment(),例如(仅前几行):

hexdump

在右边的ASCII表示中,注意每个基因后的$ hexdump -C suspicious.txt 00000000 67 65 6e 65 31 30 30 30 32 0d 0a 67 65 6e 65 31 |gene10002..gene1| 00000010 30 30 31 0d 0a 67 65 6e 65 31 30 30 33 0d 0a 67 |001..gene1003..g| 00000020 65 6e 65 31 30 30 33 38 0d 0a 67 65 6e 65 31 30 |ene10038..gene10| 。这些点对应..0d0a是CR字符。

如果没有CR字符,输出应如下所示:

0d

每个基因后只有一个$ hexdump -C <(tr -d '\r' < suspicious.txt) 00000000 67 65 6e 65 31 30 30 30 32 0a 67 65 6e 65 31 30 |gene10002.gene10| 00000010 30 31 0a 67 65 6e 65 31 30 30 33 0a 67 65 6e 65 |01.gene1003.gene| 00000020 31 30 30 33 38 0a 67 65 6e 65 31 30 30 34 38 0a |10038.gene10048.| ,对应.,没有0a

0d编辑器中查看DOS行结尾的另一种方法。如果您使用vi打开文件,状态行将显示vi,或者您可以运行ex命令[dos]使其告诉您文件格式(状态行将显示{ {1}})。

您可以像这样删除CR字符:

:set ff?

或者您可以通过运行ex命令fileformat=dosgrep -f <(tr -d '\r' < suspicious.txt) genome.gff 中删除,然后保存文件。还有其他命令行工具可以删除DOS行结束。

另一种可能性是,您可能有尾随空格而不是尾随CR字符。 vi的输出应该非常清楚。删除尾随空白字符后,:set ff=unix应按预期工作。