我创建了一个简单的perl脚本来读取日志文件并异步处理数据 读取子还检查inode编号的更改,以便在日志旋转时创建新的文件句柄。
我面临的问题是,当日志转换中使用copytruncate
时,文件旋转时inode不会改变。
这不应该是一个问题,因为脚本应该继续读取文件,但由于某种原因,我无法立即看到,只要日志轮换,就不会读取任何新行。
如何修改以下脚本(或完全废弃并重新开始)以使用perl使用copytruncate
连续拖尾文件?
use strict;
use warnings;
use threads;
use Thread::Queue;
use threads::shared;
my $logq = Thread::Queue->new();
my %Servers :shared;
my %servername :shared;
#########
#This sub just reads the data off the queue and processes it, i have
#reduced it to a simple print statement for simplicity.
#The sleep is to prevent it from eating cpu.
########
sub process_data
{
while(sleep(5)){
if ($logq->pending())
{
while($logq->pending() > 0){
my $data = $logq->dequeue();
print "Data:$data\n";
}
}
}
}
sub read_file
{
my $myFile=$_[0];
#Get the argument and assign to var.
open(my $logfile,'<',$myFile) || die "error";
#open file
my $Inode=(stat($logfile))[1];
#Get the current inode
seek $logfile, 0, 2;
#Go to the end of the file
for (;;) {
while (<$logfile>) {
chomp( $_ );
$logq->enqueue( $_ );
#Add lines to queue for processing
}
sleep 5;
if($Inode != (stat($myFile))[1]){
close($logfile);
while (! -e $myFile){
sleep 2;
}
open($logfile,'<',$myFile) || die "error";
$Inode=(stat($logfile))[1];
}
#Above checks if the inode has changed and the file exists still
seek $logfile, 0, 1;
#Remove eof
}
}
my $thr1 = threads->create(\&read_file,"test");
my $thr4 = threads->create(\&process_data);
$thr1->join();
$thr4->join();
#Creating the threads, can add more log files for processing or multiple processing sections.
logrotate的日志配置包含
compress
compresscmd /usr/bin/bzip2
uncompresscmd /usr/bin/bunzip2
daily
rotate 5
notifempty
missingok
copytruncate
此文件。
功能
GNU bash, version 3.2.57(1)-release (s390x-ibm-linux-gnu)
perl, v5.10.0
(if logrotate has version and someone knows how to check then i will also add that)
需要更多信息才能询问。
答案 0 :(得分:2)
因此,当您查看copytruncate
时,它会失败的原因非常明显,它会复制原始文件,然后截断当前文件。
虽然这确保了inode被保留,但它产生了另一个问题。
作为当前的方式我尾随文件只是停留在最后并删除eof标志这意味着当文件被截断时,指针停留在截断前的最后一行的位置,这反过来意味着在再次到达指针之前,不会再读取任何行。
显而易见的解决方案是简单地检查文件的大小,如果指针指向文件的末尾,则重置指针。
我发现使用下面两行检查文件大小永远不会变小更容易。
my $fileSize=(stat($logfile))[7];
#Added after the inode is assigned
并改变
if($Inode != (stat($myFile))[1]){
到
if($Inode != (stat($myFile))[1] || (stat($myFile))[7] < $fileSize){