【发布时间】:2020-09-15 17:22:02
【问题描述】:
我遇到了与下面的场景(链接)几乎完全相同的问题,但不幸的是我无法成功地重新创建解决方案。
我有一个 c# 应用程序,它使用带有数据读取器和写入服务器的 SQL 批量导入,它是 SQLDatReader 或 OracleDataReader,我需要将列添加到结果集中。
我不能对源 sql 语句执行此操作。 我无法先加载数据表并对其进行修改(因为它是 100 GB 的数据,几乎是 TB)。
How to add columns to DataReader
谁能提供一个工作示例来帮助“推动”我解决这个问题?
我暂时找到了使用 SQL Server Integration Services (SSIS) 的解决方案,但是我在观看它运行时发现它会将所有数据下载到 dts_buffer,而不是列修改然后将数据泵入 sql server,尝试用几个 100gb 的数据来做这件事,如果你甚至可以让你的基础设施为你构建一个具有 128gb 内存的 24 核 VM,那它的性能并不是很好。
【问题讨论】:
-
“我不能在源 sql 语句上做”...为什么不呢?
-
我找到了一个代码项目:codeproject.com/Articles/228332/…
标签: c# sqldatareader datareader