1周内修改的文件名列表

Question

我有一段脚本，它将创建一个文件列表以扫描关键字..

问题是，日志文件总共大约 11gb。当我在 shell 中使用 grep 搜索它们时，大约需要 4 或 5 分钟。当我使用我的 python 脚本执行此操作时，它只是将服务器挂起到我需要重新启动它的程度。

这似乎是不对的，它会导致整个服务器崩溃，但实际上我不需要它来滚动浏览所有文件，只需要在上周修改过的文件。

到目前为止我已经得到了这个：

 logs = [log for log in glob('/var/opt/cray/log/p0-current/*') if not os.path.isdir(log)]

我假设我需要在此之前添加一些内容以最初过滤掉错误的文件？

我一直在玩这种格式的os.path.getmtime：

logs = [log for log in glob('/var/opt/cray/log/p0-current/*') if not os.path.isdir(log)]

for log in logs:
    mtime = os.path.getmtime(log)
    if mtime < "604800":
       do-stuff (create a new list? Or update logs?)

这就是我现在所处的位置，它不起作用，但我希望内联列表可以做一些更优雅的事情？

Answer 1

根据有多少文件名和多少内存（512MB VPS？），您可能会用尽内存来创建所有文件名的两个列表（一个来自glob，一个来自您的列表理解。）不一定案子，但这是我必须继续下去的全部。

尝试切换到iglob（在后台使用os.scandir 并返回一个迭代器）并使用生成器表达式，看看是否有帮助。

另外，getmtime 得到一个时间，而不是从现在开始的间隔。

import os
import glob
import time

week_ago = time.time() - 7 * 24 * 60 * 60
log_files = (
    x for x in glob.iglob('/var/opt/cray/log/p0-current/*')
    if not os.path.isdir(x)
    and os.path.getmtime(x) > week_ago
)
for filename in log_files:
    pass  # do something