通常我使用wc -l
来计算文件的行数。但是对于具有5 * 10 ^ 7行的文件,我只得到10 ^ 7作为答案。
我已经尝试了这里提出的所有内容:
How to count lines in a document?
但它需要比wc -l
花费更多的时间。
还有其他选择吗?
答案 0 :(得分:3)
任何认真对待速度线计数的人都可以创建自己的实现:
#include <stdio.h>
#include <string.h>
#include <fcntl.h>
#define BUFFER_SIZE (1024 * 16)
char BUFFER[BUFFER_SIZE];
int main(int argc, char** argv) {
unsigned int lines = 0;
int fd, r;
if (argc > 1) {
char* file = argv[1];
if ((fd = open(file, O_RDONLY)) == -1) {
fprintf(stderr, "Unable to open file \"%s\".\n", file);
return 1;
}
} else {
fd = fileno(stdin);
}
while ((r = read(fd, BUFFER, BUFFER_SIZE)) > 0) {
char* p = BUFFER;
while ((p = memchr(p, '\n', (BUFFER + r) - p))) {
++p;
++lines;
}
}
close(fd);
if (r == -1) {
fprintf(stderr, "Read error.\n");
return 1;
}
printf("%d\n", lines);
return 0;
}
用法
a < input
... | a
a file
示例:
# time ./wc temp.txt
10000000
real 0m0.115s
user 0m0.102s
sys 0m0.014s
# time wc -l temp.txt
10000000 temp.txt
real 0m0.120s
user 0m0.103s
sys 0m0.016s
* 使用GCC 4.8.2在具有AVX和SSE4.2的系统上本地编译-O3
的代码。
答案 1 :(得分:1)
尝试使用nl,看看会发生什么......
答案 2 :(得分:1)
您可以尝试sed
sed -n '$=' file
=
表示打印行号,而美元表示只在最后一行表示。 -n
表示不要做太多其他事情。
或者这是Perl中的一种方式,将其保存为wc.pl
并执行chmod +x wc.pl
:
#!/usr/bin/perl
use strict;
use warnings;
my $filename = <@ARGV>;
my $lines = 0;
my $buffer;
open(FILE, $filename) or die "ERROR: Can not open file: $!";
while (sysread FILE, $buffer, 65536) {
$lines += ($buffer =~ tr/\n//);
}
close FILE;
print "$lines\n";
像这样运行:
wc.pl yourfile
基本上它一次以64kB的块读取你的文件,然后利用tr
在要求删除所有换行符后返回它所做的替换次数的事实。
答案 3 :(得分:0)
取决于你如何打开文件,但可能从STDIN读取它而不是得到修复:
wc -l < file
答案 4 :(得分:0)
您可以使用awk
获取行数,如下所示
awk 'END {print NR}' names.txt
(OR)使用while .. do .. done
bash循环结构,如
CNT=0; while read -r LINE; do (( CNT++ )); done < names.txt; echo $CNT