使用Regex从文本文件中读取

时间:2014-01-30 04:22:40

标签: c# .net regex stream

以下是我为从文本文件中读取而编写的方法。在阅读时,我需要将行字符串与给定的正则表达式匹配,如果它匹配,那么我需要将行字符串添加到集合中。

private static void GetOrigionalRGBColours(string txtFile)
{
    string tempLineValue;
    Regex regex = new Regex(@"^\d+.?\d* \d+.?\d* \d+.?\d* SRGB$");

    using (StreamReader inputReader = new StreamReader(txtFile))
    {
        while (null != (tempLineValue = inputReader.ReadLine()))                     
        {
            if (regex.Match(tempLineValue).Success
                && tempLineValue != "1 1 1 SRGB"
                && tempLineValue != "0 0 0 SRGB")
            {
                string[] rgbArray = tempLineValue.Split(' ');
                RGBColour rgbColour = new RGBColour() { Red = Convert.ToDecimal(rgbArray[0]), Green = Convert.ToDecimal(rgbArray[1]), Blue = Convert.ToDecimal(rgbArray[2]) };
                originalColourList.Add(rgbColour);
            }
        }
    }
} 

对于具有28653行的4MB文本文件运行此方法时,只需 3分钟即可完成上述方法。此外,作为上述运行的结果,originalColourList填充了582项。

有人可以指导我如何改善此方法的性能?实际的文本文件大小可能会达到60MB

FYI-
正则表达式的正确匹配:0.922 0.833 0.855 SRGB
正则表达式的错误匹配:/ SRGB / setrgbcolor load def
txt文件最初是一个postscript文件,我已将其保存为txt文件,以便使用C#进行操作。

2 个答案:

答案 0 :(得分:3)

如果你像这样重写正则表达式会更快,更快:

Regex regex = new Regex(@"^\d+(\.\d*)? \d+(\.\d*)? \d+(\.\d*)? SRGB$");

注意两个重要的变化:

  1. 每个.都使用反斜杠进行转义,以便正则表达式匹配文字点而不是任何字符。
  2. 每个\.和以下\d*都是可选的,而不是\.本身是可选的。
  3. 原始正则表达式很慢,因为\d+.?\d*包含连续的quantifiers+?*)。当正则表达式引擎尝试匹配以长数字序列开头的行时,这会导致backtracking过多。例如,在我的机器上,包含10,000个零的行需要超过 4秒才能匹配。修订后的正则表达式小于 4毫秒,提升了1000倍。

    如果传递

    ,正则表达式可能会更快(通过头发)
    RegexOptions.Compiled | RegexOptions.ECMAScript
    

    作为Regex构造函数的第二个参数。 ECMAScript告诉正则表达式引擎将\d视为[0-9],忽略您不关心的7位(藏文7)等Unicode数字。

答案 1 :(得分:0)

根据您的记录格式,您可以比使用正则表达式更快地解析。不知道你的文件的一切,但从你的两个例子,这比使用优化的正则表达式快约30%。

        decimal r;
        decimal g;
        decimal b;
        string rec;
        string[] fields;
        List<RGBColour> originalColourList = new List<RGBColour>();

        using (StreamReader sr = new StreamReader(@"c:\temp\rgb.txt"))
        {
            while (null != (rec = sr.ReadLine()))
            {
                if (rec.EndsWith("SRGB"))
                {
                    fields = rec.Split(' ');

                    if (fields.Length == 4 
                        && decimal.TryParse(fields[0], out r) 
                        && decimal.TryParse(fields[1], out g) 
                        && decimal.TryParse(fields[2], out b)
                        && (r+g+b !=0)
                        && (r != 1  && g != 1 && b!=1)
                        )
                    {
                        RGBColour rgbColour = new RGBColour() { Red = r, Green = g, Blue = b };
                        originalColourList.Add(rgbColour);
                    }
                }
            }
        }

如果任何条件为假,if将短路,如果一切都为真,则不再需要将所有值转换为十进制。我在大约12.5秒内解析了600万行。