使用正则表达式读入文件？

Question

这与an earlier question of mine.有切线关系

基本上，该问题的解决方案效果很好，但现在我需要对其进行调整以在更大的分析应用程序中工作。简单地使用StreamReader.ReadToEnd() 是不可接受的，因为我将读入的一些文件非常非常大。如果出现错误并且有人忘记清理，理论上它们可能是千兆字节。显然我不能只读到最后。

不幸的是，正常的读取行也是不可接受的，因为我正在读取的某些数据行包含堆栈跟踪 - 它们显然在格式中使用/r/n。理想情况下，我想告诉程序向前阅读，直到它匹配一个正则表达式，然后它返回。 .net 中是否有任何功能可以做到这一点？如果没有，我可以就如何编写它获得一些建议吗？

编辑：为了更容易理解我的问题，这里粘贴了改编代码的一些重要部分：

foreach (var fileString in logpath.Select(log => new StreamReader(log)).Select(fileStream => fileStream.ReadToEnd()))
{
    const string junkPattern = @"\[(?<junk>[0-9]*)\] \((?<userid>.{0,32})\)";
    const string severityPattern = @"INFO|ERROR|FATAL";
    const string datePattern = "^(?=[0-9]{4}-[0-9]{2}-[0-9]{2} [0-9]{2}:[0-9]{2}:[0-9]{2},[0-9]{3})";
    var records = Regex.Split(fileString, datePattern, RegexOptions.Multiline);
    foreach (var record in records.Where(x => string.IsNullOrEmpty(x) == false))
    ......

问题在于 Foreach。 .Select(fileStream => fileStream.ReadToEnd()) 会炸毁内存，我就知道。

Answer 1

首先，你应该将你的 const 定义移到类声明中——编译器会为你做这件事，但这应该由你自己做，只是为了更好的代码可读性。

正如@Blam 提到的，您应该成对使用StringBuilder 和StreamReader.ReadLine，如下所示：

foreach(var filePath in logpath)
{
    var sbRecord = new StringBuilder();
    using(var reader = new StreamReader(filePath))
    {
        do
        {
            var line = reader.ReadLine();
            // check start of the new record lines
            if (Regex.Match(line, datePattern) && sbRecord.Length > 0)
            {
                // your method for log record
                HandleRecord(sbRecord.ToString());
                sbRecord.Clear();
                sbRecord.AppendLine(line);
            }
            // if no lines were added or datePattern didn't hit
            // append info about current record
            else
            {
                sbRecord.AppendLine(line);
            }
        } while (!reader.EndOfStream)
    }
}

如果我对您的问题有什么不明白的地方，请在评论中澄清这一点。
此外，您可以使用ThreadPool 为您的线路安排任务，只是为了您的应用程序的速度。