提高sqlite查询速度

Question

我有一个要在数据库中更新的数字列表（实际上是百分比）。查询非常简单，我在代码中的某处获取项目的 id，然后用数字列表更新数据库中的这些项目。查看我的代码：

start_time = datetime.datetime.now()

query = QtSql.QSqlQuery("files.sqlite")
for id_bdd, percentage in zip(list_id, list_percentages):
    request = "UPDATE papers SET percentage_match = ? WHERE id = ?"
    params = (percentage, id_bdd)

    query.prepare(request)

    for value in params:
        query.addBindValue(value)

    query.exec_()

    elsapsed_time = datetime.datetime.now() - start_time
    print(elsapsed_time.total_seconds())

生成list_percentages需要1秒，将所有百分比写入数据库需要2分钟以上。 我使用sqlite作为数据库，数据库中大约有7000个项目。查询花费这么多时间是否正常？ 如果没有，有没有办法优化它？

编辑： 与 std 库中的 sqlite3 模块比较：

bdd = sqlite3.connect("test.sqlite")
bdd.row_factory = sqlite3.Row
c = bdd.cursor()

request = "UPDATE papers SET percentage_match = ? WHERE id = ?"

for id_bdd, percentage in zip(list_id, list_percentages):
    params = (percentage, id_bdd)
    c.execute(request, params)

bdd.commit()
c.close()
bdd.close()

我认为 QSqlQuery 会在每个循环圈提交更改，而 sqlite3 模块允许同时提交所有不同的查询。

对于同一个测试数据库，QSqlQuery 大约需要 22 秒，而“正常”查询大约需要 0.3 秒。我不敢相信这只是一个性能问题，我必须做错事。

Answer 1

你需要启动一个transaction和commit循环之后的所有更新。

未测试但应该接近：

start_time = datetime.datetime.now()

# Start the transaction time
QtSql.QSqlDatabase.transaction()

query = QtSql.QSqlQuery("files.sqlite")
for id_bdd, percentage in zip(list_id, list_percentages):
    request = "UPDATE papers SET percentage_match = ? WHERE id = ?"
    params = (percentage, id_bdd)

    query.prepare(request)

    for value in params:
        query.addBindValue(value)

    query.exec_()

# commit changues
if QtSql.QSqlDatabase.commit():
   print "updates ok"

elsapsed_time = datetime.datetime.now() - start_time
print(elsapsed_time.total_seconds())

另一方面，这个问题可能是数据库性能问题，尝试在id字段上创建索引：https://www.sqlite.org/lang_createindex.html

您需要直接访问数据库。

create index on papers (id);

Answer 2

你真的需要每次都调用prepare吗？对我来说，请求似乎没有改变，所以这个“准备”功能可以移出循环吗？