【问题标题】:Mysqlimport very slow when importing two smaller filesMysqlimport 导入两个小文件时很慢
【发布时间】:2015-09-16 16:23:44
【问题描述】:

我正在尝试导入一个大文件,它确实很大,而且似乎无法正常工作,所以我将它分成了几块。第一段需要2分钟,第二段需要将近一个小时!!!怎么可能???

bash-3.2$ wc -l allelePiecesaa 
2575063 allelePiecesaa
bash-3.2$ cp allelePiecesaa allele.txt
bash-3.2$ time /usr/bin/mysqlimport -h bluemoon-mgmt1a -u jbond --delete --local --fields_escaped_by=\\ MBSR -L allele.txt
MBSR.allele: Records: 2575064  Deleted: 0  Skipped: 0  Warnings: 6
real    1m50.285s
user    0m0.006s
sys     0m0.103s
bash-3.2$ cp allelePiecesab allele.txt 
bash-3.2$ wc -l allele.txt 
2545972 allele.txt
bash-3.2$ time /usr/bin/mysqlimport -h bluemoon-mgmt1a -u jbond --local --fields_escaped_by=\\ MBSR -L allele.txt
MBSR.allele: Records: 2545973  Deleted: 0  Skipped: 0  Warnings: 7
real    57m17.279s
user    0m0.030s
sys     0m0.097s

我的配置是:

[client]
user=X
host=Y
password=Z
port=3306

[mysqld]
init_connect='SET autocommit=0'
init_connect='SET foreign_key_checks = 0'
init_connect='SET unique_checks = 0'
log_slow_queries = 0

任何帮助表示赞赏。谢谢, 拉米罗

【问题讨论】:

    标签: mysql bigdata large-files mysqlimport


    【解决方案1】:

    第二个文件没有任何问题。

    由于第一个文件查询或某些查询等待完成,因此导入第二个文件需要更多时间。

    要检查第二个文件,您可以重新启动 mysql 并再次尝试导入。应该花费更少的时间。

    【讨论】:

      猜你喜欢
      • 2016-10-29
      • 1970-01-01
      • 1970-01-01
      • 2018-03-12
      • 1970-01-01
      • 2011-12-12
      • 2011-02-26
      • 2022-01-02
      相关资源
      最近更新 更多