正则表达式搜索和替换大文件中的文本

时间:2015-03-27 00:37:36

标签: java regex io nio text-search

我在一个巨大的文件中搜索多行模式,如果发现需要替换内容。我想以一种有效的内存方式实现这一目标。我当前的实现以4096字节的块为单位从文件中读取文本。然后它应用正则表达式搜索替换并将结果保存在缓冲区输出流中。通过不将整个文件加载到内存中,这确实给了我一些内存改进,但是我使用map / flush调用生成了很多IO。需要进一步改进我的代码的建议。此外,如果要搜索的模式被分成相邻的块,则算法失败。关于如何有效地搜索替换在相邻块中划分的文本的任何想法。假设:要搜索的文本总是小于4096字节。

public void searchAndReplace (String inputFilePath, String outputFilePath) {

    Pattern HEADER_PATTERN =  Pattern.compile("<a [^>]*>[^(</a>)]*</a>", Pattern.DOTALL);
    Charset UTF8 = Charset.forName("UTF-8");
    File outputFile = new File(outputfilepath);
    if (!outputFile.exists()) {
        outputFile.createNewFile();
    }

    FileInputStream inputStream = new FileInputStream(new File(inputfilepath));
    FileOutputStream outputStream = new FileOutputStream(outputFile);

    FileChannel inputChannel = inputStream.getChannel();

    final long length = inputChannel.size();
    long pos = 0;
    while (pos < length) {
        int remaining = (int)(length - pos) > 4096 ? 4096 : (int)(length - pos);
        MappedByteBuffer map = inputChannel.map(FileChannel.MapMode.READ_ONLY, pos, remaining);
        CharBuffer cbuf = UTF8.newDecoder().decode(map);
        Matcher matcher = HEADER_PATTERN.matcher(cbuf);
        StringBuffer sb = new StringBuffer();
        while (matcher.find()) {
            matcher.appendReplacement(sb, "Some text");
        }
        matcher.appendTail(sb);
        outputStream.write(sb.toString().getBytes());
        outputStream.flush();
        pos = pos + 4096;
    }

    inputStream.close();
    outputStream.close(); 
}

1 个答案:

答案 0 :(得分:0)

声明不太可能出现在字符串中的特殊字符列表。然后测试你的字符串,以确保其中一个特殊字符不会在其中退出。在你想要做正则表达式的区域之间植入特殊字符。然后你可以用/ [^¬] * myRegExHere [^ \¬] / g

进行查找/替换或搜索