Question

.e.g。 1. logfile

开始
线路1
线路2
行3
结束

当我从头开始读取文件时，我能够获得Line1的搜索位置。

func getSeekLocation() int64 {
    start := int64(0)
    input, err := os.Open(logFile)
    if err != nil {
        fmt.Println(err)
    }
    if _, err := input.Seek(start, io.SeekStart); err != nil {
        fmt.Println(err)
    }
    scanner := bufio.NewScanner(input)

    pos := start
    scanLines := func(data []byte, atEOF bool) (advance int, token []byte, 
    err error) {
        advance, token, err = bufio.ScanLines(data, atEOF)
        pos += int64(advance)
        return
    }
    scanner.Split(scanLines)
    for scanner.Scan() {
       if strings.Contains(scanner.Text(), "Line1") {
        break
       }
    }
    size, err := getFileSize()
    if err != nil {
        fmt.Println(err)
    }
    return size - pos
}

但这不是解决问题的有效方法，因为随着文件大小的增加，获取位置的时间也会增加。我想从EOF位置获取该线的位置，我认为这将更有效。

Answer 1

注意：我优化并改进了以下解决方案，并在此处将其作为库发布：github.com/icza/backscanner

bufio.Scanner使用io.Reader作为其来源，不支持从任意位置搜索和/或读取，因此无法从末尾扫描行。 bufio.Scanner只能读取其前面的所有数据后才能读取输入的任何部分（也就是说，如果它首先读取所有文件的内容，它只能读取文件的末尾。）

因此，我们需要一个自定义解决方案来实现此类功能。幸运的是os.File确实支持从任意位置读取，因为它实现了io.Seeker和io.ReaderAt（其中任何一个都足以满足我们的需要）。

从末尾开始向后退线的扫描仪

让我们构建一个Scanner，从最后一行开始扫描向后行。为此，我们将使用io.ReaderAt。以下实现使用内部缓冲区，从输入结束开始，数据块将从中读取数据。还必须传递输入的大小（这基本上是我们想要开始读取的位置，其不一定是结束位置）。

type Scanner struct {
    r   io.ReaderAt
    pos int
    err error
    buf []byte
}

func NewScanner(r io.ReaderAt, pos int) *Scanner {
    return &Scanner{r: r, pos: pos}
}

func (s *Scanner) readMore() {
    if s.pos == 0 {
        s.err = io.EOF
        return
    }
    size := 1024
    if size > s.pos {
        size = s.pos
    }
    s.pos -= size
    buf2 := make([]byte, size, size+len(s.buf))

    // ReadAt attempts to read full buff!
    _, s.err = s.r.ReadAt(buf2, int64(s.pos))
    if s.err == nil {
        s.buf = append(buf2, s.buf...)
    }
}

func (s *Scanner) Line() (line string, start int, err error) {
    if s.err != nil {
        return "", 0, s.err
    }
    for {
        lineStart := bytes.LastIndexByte(s.buf, '\n')
        if lineStart >= 0 {
            // We have a complete line:
            var line string
            line, s.buf = string(dropCR(s.buf[lineStart+1:])), s.buf[:lineStart]
            return line, s.pos + lineStart + 1, nil
        }
        // Need more data:
        s.readMore()
        if s.err != nil {
            if s.err == io.EOF {
                if len(s.buf) > 0 {
                    return string(dropCR(s.buf)), 0, nil
                }
            }
            return "", 0, s.err
        }
    }
}

// dropCR drops a terminal \r from the data.
func dropCR(data []byte) []byte {
    if len(data) > 0 && data[len(data)-1] == '\r' {
        return data[0 : len(data)-1]
    }
    return data
}

使用它的示例：

func main() {
    scanner := NewScanner(strings.NewReader(src), len(src))
    for {
        line, pos, err := scanner.Line()
        if err != nil {
            fmt.Println("Error:", err)
            break
        }
        fmt.Printf("Line start: %2d, line: %s\n", pos, line)
    }
}

const src = `Start
Line1
Line2
Line3
End`

输出（在Go Playground上尝试）：

Line start: 24, line: End
Line start: 18, line: Line3
Line start: 12, line: Line2
Line start:  6, line: Line1
Line start:  0, line: Start
Error: EOF

备注：

以上Scanner不限制行的最大长度，它处理所有行。

以上Scanner处理\n和\r\n行结尾（由dropCR()函数确保）。

您可以传递任何起始位置，而不仅仅是大小/长度，并且将从那里执行列表行（续）。

以上Scanner不重用缓冲区，在需要时始终创建新缓冲区。（预先）分配2个缓冲区就足够了，并明智地使用它们。实施将变得更加复杂，并且会引入最大线路长度限制。

将其与文件一起使用

要将此Scanner与文件一起使用，您可以使用os.Open()打开文件。请注意*File实现了io.ReaderAt()。然后，您可以使用File.Stat()获取有关文件（os.FileInfo）的信息，包括其大小（长度）：

f, err := os.Open("a.txt") if err != nil { panic(err) } fi, err := f.Stat() if err != nil { panic(err) } defer f.Close() scanner := NewScanner(f, int(fi.Size()))

在一行中查找子字符串

如果你在一行中寻找子串，那么只需使用上面的Scanner，它返回每行的起始位置，从末尾读取行。

您可以使用strings.Index()检查每一行中的子字符串，它返回行内的子字符串位置，如果找到，则将行起始位置添加到此行。

假设我们正在寻找"ine2"子字符串（它是"Line2"行的一部分）。以下是您可以这样做的方法：

scanner := NewScanner(strings.NewReader(src), len(src)) what := "ine2" for { line, pos, err := scanner.Line() if err != nil { fmt.Println("Error:", err) break } fmt.Printf("Line start: %2d, line: %s\n", pos, line) if i := strings.Index(line, what); i >= 0 { fmt.Printf("Found %q at line position: %d, global position: %d\n", what, i, pos+i) break } }

输出（在Go Playground上尝试）：

Line start: 24, line: End Line start: 18, line: Line3 Line start: 12, line: Line2 Found "ine2" at line position: 1, global position: 13

从末尾读取日志文件并获取特定字符串的偏移量

1 个答案:

从末尾开始向后退线的扫描仪

将其与文件一起使用

在一行中查找子字符串