【问题标题】:Azure Search Indexer is too slow for large amount of documentsAzure 搜索索引器对于大量文档来说太慢了
【发布时间】:2018-09-21 20:48:15
【问题描述】:

我有 S1 层,在 blob 存储的单个容器中包含大约 600,000 个文件。我已将索引限制为仅包含 (.doc,.docx,.xls,.xlsx,.ppt,.pptx,.pdf,.txt,.rtf,.htm,.html) 并排除 (.png,. jpeg,.jpg,.gif,.psd,.mp3,.mp4,.wav,.exe,.zip,.dmg,.msi,.mkv,.flv,.ogg,.ogv,.avi,.mov, .wmv)。我还尝试将分区增加到允许的最大值 12,而性能没有显着变化。

以目前的索引速度,我估计需要 30 天才能完成。

我需要更快地对其进行索引。我怎样才能提高这个速度?

谢谢。

【问题讨论】:

    标签: azure-storage azure-cognitive-search


    【解决方案1】:

    您可以通过并行化索引来加快索引速度:将容器中的 blob 拆分为多个文件夹,并创建多个数据源/索引器对,全部写入同一个目标搜索索引。如果您的搜索服务有 N 个搜索单元,则可以同时运行 N 个索引器,从而显着加快索引速度。

    【讨论】:

    • 我有一个容器,所有文件都在根文件夹中。在这种情况下如何处理多个索引器?此外,我的层 (S1) 中的数据源和索引器的数量也存在限制。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2016-07-01
    • 1970-01-01
    • 2015-01-17
    • 1970-01-01
    • 2017-11-15
    • 2012-07-22
    • 2020-08-08
    相关资源
    最近更新 更多