【问题标题】:Regarding lz4mt compression and linux buffering issue关于 lz4mt 压缩和 linux 缓冲问题
【发布时间】:2015-01-15 14:14:02
【问题描述】:

我正在使用 lz4 的 lz4mt 多线程版本,在我的工作流程中,我将数千个大型文件 (620 MB) 从客户端发送到服务器,当文件到达服务器时,我的规则将触发并使用 lz4mt 压缩文件,然后删除未压缩的文件。问题是有时当我删除未压缩的文件时,我无法获得正确大小的压缩文件,因为 lz4mt 在将输出发送到磁盘之前立即返回。 那么lz4mt有什么办法可以在bzip2压缩后自行删除未压缩的文件。

Input: bzip2 uncompress_file
Output: Compressed file only

Input: lz4mt uncompress_file
Output: (Uncompressed + Compressed) file

我认为下面的脚本同步命令也无法正常工作。 作为我的规则触发执行的脚本是: script.sh

/bin/lz4mt  uncompressed_file output_file
/bin/sync
/bin/rm uncompressed_file

请告诉我如何解决上述问题。 非常感谢

【问题讨论】:

    标签: linux caching buffer compression


    【解决方案1】:

    作者在这里。你可以试试以下方法

    1. &&; 连接命令。
    2. 添加lz4mt命令行选项-q(抑制提示)和-f(强制覆盖)。
    3. 试试原来的lz4

    【讨论】:

    • 感谢您的回复。它适用于少量文件,但如果我将大量文件从客户端传输到服务器,压缩文件的大小再次小于应有的大小。
    • 我仍然无法理解您的问题。请回答以下问题以解决您的问题。 (1) 这三种方法你试过了吗? (&&, -q -f, lz4) (2) “规则触发器”是什么意思? (3) lz4mt 不能接受多个文件。您是如何将“大量文件”传递给 lz4mt 的?
    猜你喜欢
    • 2018-08-31
    • 1970-01-01
    • 2016-08-02
    • 2023-03-16
    • 2023-03-06
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2017-01-02
    相关资源
    最近更新 更多