ADO.net Server Timeout when bulk Insert Happen，如何改善？答案

【问题标题】：ADO.net Server Timeout when bulk Insert Happen, how to Improve it?ADO.net Server Timeout when bulk Insert Happen，如何改善？
【发布时间】：2020-08-26 06:50:26
【问题描述】：

所以我在 ADO Net 中有使用参数化查询插入数据的应用程序，但我注意到会有服务器超时错误。当有这么多插入发生时。插入的行几乎是 1500 行。对于每个请求。并且在繁忙时间可以同时有 10 - 30 个请求。添加超时将解决问题。在正常情况下，请求只需 7 - 15 秒即可完成。但是在我的日志中，有时我会在繁忙时间看到异常错误。是否添加超时将解决问题或我可以做任何调整来提高性能

foreach (var item in collection) {
{
  using (var con = new SqlConnection("connectionString here"))
 {
   con.Open();
   var sql = "INSERT INTO  my_table (a, b, c) VALUES (@a,@b,@c);"

   using (var comm = new SqlCommand(sql, con))
   {
       comm.Parameters.Add("@a", SqlDbType.Int);
       comm.Parameters.Add("@b", SqlDbType.NVarChar);
       comm.Parameters.Add("@c", SqlDbType.Int);
      
       comm.Parameters["@a"].Value = aVal;
       comm.Parameters["@b"].Value = bVal;
       comm.Parameters["@b"].Size = bVal.Length;
       comm.Parameters["@c"].Value = cVal;
       comm.ExecuteNonQuery();
       con.Close();
      
   }
 

  }
}

【问题讨论】：

将 sql 连接打开和关闭置于循环之外，并将连接超时放入连接字符串中

标签： c# sql-server asp.net-core ado.net

【解决方案1】：

根据您的描述，我建议您可以考虑使用以下方法来提高性能。

(1)我建议您可以尝试使用ADO.net SqlBulkCopy 更快地插入记录。

执行批量复制操作的一般步骤如下：

1.连接源服务器，获取要复制的数据。如果数据可以从 IDataReader 或 DataTable 对象中检索，数据也可以来自其他来源。

2.连接到目标服务器（除非您希望 SqlBulkCopy 为您建立连接）。

3.创建一个 SqlBulkCopy 对象，设置任何必要的属性。

4.设置 DestinationTableName 属性以指示批量插入操作的目标表。

5.调用 WriteToServer 方法之一。

6. （可选）更新属性并根据需要再次调用 WriteToServer。

7.调用 Close，或将批量复制操作包装在 Using 语句中。

例子：

//I directly copy a table's schema, you could directly create a new table with the same sql server table column schema.
DataTable dt = s_EmptyUploadTable.Copy();
foreach (var itm in yourList) {
    DataRow row = dt.NewRow();
    row["Field1"] = itm.Field1;
    row["Field2"] = itm.Field2;
    dt.Rows.Add(row);
}
using (SqlConnection cn = new SqlConnection(yourConnectionString)) {
    cn.Open();
    using (SqlBulkCopy bulkCopy = new SqlBulkCopy(cn)) {
        bulkCopy.DestinationTableName = "dbo.YourActualSQLServerTableName";
        bulkCopy.WriteToServer(dt);
    }
    cn.Close();
}

(2) 如果你使用bulkcopy还是不能解决你的问题，我建议你可以先尝试将数据存储到redis之类的缓存中。然后你就可以写一个asp.net core后台服务，从redis中读取数据，插入到数据库中。

更多redis的使用方法，可以参考article。更多asp.net后台服务使用方法，可以参考article。

【讨论】：