【问题标题】:Is there a way in talend to find the files from the last 24 hours or within 1 day without reading through entire file list from ftp有没有办法在 talend 中找到过去 24 小时或 1 天内的文件,而无需从 ftp 读取整个文件列表
【发布时间】:2021-03-03 06:38:46
【问题描述】:

ftp 文件夹中有大约 4000-5k 个文件,我不想将它们传递到缓冲区输入/输出组件中,然后使用 tmap 函数对它们进行排序。相反,我宁愿不打扰文件中的 no.of直接ftp文件夹我可以找到前一天(24小时时间段)的文件并使用ftpget吗?

我不想经历在 bufferedreader 中存储/读取所有文件并按 mtime_desc 或其他 ftpfileproperties 方法排序/排列的麻烦。取而代之的是获取和检索前一天最新文件的直接方法是更快更有效?

【问题讨论】:

    标签: java date ftp components talend


    【解决方案1】:

    我不知道 Talend,但是:标准 FTP 只能检索目录中的所有文件。无论您使用什么语言/库/框架,都无法进行优化或过滤。

    一些 FTP 服务器支持非标准的LIST -t 命令来检索按时间戳排序的列表。当您使用它时,一旦您获得所需的文件,您可能会中断列表的下载。另见Make FTP server return files listed by timestamp with Apache FTPClient

    【讨论】:

    • 感谢您的回复,所以您是说没有办法过滤并直接从 ftp 文件夹中提取最新文件,而不读取文件夹中的所有文件,然后只执行排序基于最新的时间戳。如果是这种情况,我正在做同样的事情,我观察到性能受到严重影响,我想知道是否有任何方法可以通过直接提取过去 24 小时内的最新文件而不读取所有文件来提高效率那个文件夹!这肯定会提高处理速度/时间
    • 正如我所写,一些服务器支持-t 开关,这可以帮助你。
    猜你喜欢
    • 1970-01-01
    • 2013-04-11
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2012-07-05
    • 1970-01-01
    • 2023-02-07
    • 1970-01-01
    相关资源
    最近更新 更多