快速插入 SQL 数据和相关行的最佳方法是什么？

Question

我需要编写一些代码来插入大约 300 万行数据。
同时我需要插入相同数量的伴随行。

即架构如下所示：

Item
  - Id
  - Title

Property
  - Id
  - FK_Item
  - Value

我的第一次尝试是这样的：

BaseDataContext db = new BaseDataContext();
foreach (var value in values)
{
    Item i = new Item() { Title = value["title"]};
    ItemProperty ip = new ItemProperty() { Item = i, Value = value["value"]};
    db.Items.InsertOnSubmit(i);
    db.ItemProperties.InsertOnSubmit(ip);
}
db.SubmitChanges();

显然这非常慢，所以我现在使用这样的东西：

BaseDataContext db = new BaseDataContext();
DataTable dt = new DataTable("Item");
dt.Columns.Add("Title", typeof(string));
foreach (var value in values)
{
    DataRow item = dt.NewRow();
    item["Title"] = value["title"];
    dt.Rows.Add(item);
}
using (System.Data.SqlClient.SqlBulkCopy sb = new System.Data.SqlClient.SqlBulkCopy(db.Connection.ConnectionString))
{
    sb.DestinationTableName = "dbo.Item";
    sb.ColumnMappings.Add(new SqlBulkCopyColumnMapping("Title", "Title"));
    sb.WriteToServer(dt);
}

但这不允许我添加相应的“属性”行。

我认为最好的解决方案可能是添加一个像 this one 这样的存储过程，它通常可以让我进行批量插入（或至少多次插入，但我可能会以某种方式禁用存储过程的日志记录以提高性能）然后返回对应的id。

谁能想到更好的（即更简洁、性能几乎相同）的解决方案？

Answer 1

要结合之前最好的两个答案，并为 ID 添加缺失的部分：

1) 使用 BCP 将数据加载到这样定义的临时“暂存”表中

CREATE TABLE stage(Title AS VARCHAR(??), value AS {whatever});

您稍后将需要适当的索引来提高性能：

CREATE INDEX ix_stage ON stage(Title);

2) 使用 SQL INSERT 加载 Item 表：

INSERT INTO Item(Title) SELECT Title FROM stage;

3) 最后通过与 Item 加入阶段来加载属性表：

INSERT INTO Property(FK_ItemID, Value)
SELECT id, Value
FROM stage
JOIN Item ON Item.Title = stage.Title

Answer 2

将这么多数据移入 SQL Server 的最佳方法是 bcp。假设数据从某种文件开始，您需要编写一个小脚本将数据汇集到两个表中。或者，您可以使用 bcp 将数据汇集到一个表中，然后使用 SP 将数据插入到两个表中。

Answer 3

将数据批量复制到临时表中，然后调用存储过程，将数据拆分为您需要填充的两个表。

Answer 4

您也可以使用 .NET SqlBulkCopy 类批量复制代码。