【问题标题】:What is efficient and fastest way to get number of records( no. of lines) in zip file using aws s3 command?使用 aws s3 命​​令获取 zip 文件中的记录数(行数)的有效和最快方法是什么?
【发布时间】:2021-09-12 20:43:50
【问题描述】:

我想获取 s3 存储桶中存在的 zip 文件中的记录数。你能告诉我得到结果的最快方法是什么吗?

我在命令下运行,但这不起作用。如果我做错了什么,请纠正我。

aws s3 cp s3://itx-agu-lake/raw/vs-1/load-1619/data/phd_admsrc.txt.gz - | wc -l

上面的命令给了我 0。但实际计数是 24。

【问题讨论】:

  • 这不是一个 zip 文件(它是一个压缩档案)。那是一个 gzip 压缩文本文件。

标签: amazon-web-services amazon-s3 aws-cli boto


【解决方案1】:

你需要解压.gz文件:

aws s3 cp s3://bucket/object.gz - | zcat | wc -l

这会将 S3 对象复制到 stdout,通过zcat 将其发送到解压缩,然后将输出发送到wc 以计算行数。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2021-05-17
    • 1970-01-01
    • 2010-09-17
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2013-01-23
    相关资源
    最近更新 更多