【发布时间】:2011-09-08 05:06:55
【问题描述】:
我有一些大型 csv 文件(每个 1.5gb)需要替换特定值。我目前使用的方法非常慢,我相当肯定应该有一种方法可以加快速度,但我只是没有足够的经验知道我应该做什么。这是我的第一篇文章,我尝试通过搜索找到相关的内容,但没有发现任何内容。任何帮助将不胜感激。
我的另一个想法是将文件分成块,以便我可以将整个内容读入内存,在那里进行所有替换,然后输出到合并文件。我试过这个,但实际上我的做法似乎比我目前的方法慢。
谢谢!
Sub Main()
Dim fName As String = "2009.csv"
Dim wrtFile As String = "2009.1.csv"
Dim lRead
Dim lwrite As String
Dim strRead As New System.IO.StreamReader(fName)
Dim strWrite As New System.IO.StreamWriter(wrtFile)
Dim bulkWrite As String
bulkWrite = ""
Do While strRead.Peek <> -1
lRead = Split(strRead.ReadLine(), ",")
If lRead(9) = "5MM+" Then lRead(9) = "5000000"
If lRead(9) = "1MM+" Then lRead(9) = "1000000"
lwrite = ""
For i = LBound(lRead) To UBound(lRead)
lwrite = lwrite & lRead(i) & ","
Next
strWrite.WriteLine(lwrite)
Loop
strRead.Close()
strWrite.Close()
End Sub
【问题讨论】:
-
在 .Net 4 中,您可以尝试 memory mapped files。这可以显着提高文件操作的性能
标签: vb.net streamwriter