【问题标题】:Java 9 takeWhile and dropWhile to read and skip certain linesJava 9 takeWhile 和 dropWhile 读取和跳过某些行
【发布时间】:2019-08-02 19:45:47
【问题描述】:

我有一个包含多个报告的文本文件。每个报告都以文字“报告 ID”开头,并具有特定值,即 ABCD。 对于简单的情况,我只想提取那些具有 ABCD 值的报告的数据。并且为了复杂性,我只想提取那些 TAG1 值(第 2 行)为 1000375351 且报告值与 ABCD 相同的报告的数据。

我已经用传统方式完成了。我的 decideAndExtract(String line) 函数具有所需的逻辑。但是如何使用 Java 9 流的 takeWhile 和 dropWhile 方法来有效地处理呢?

try (Stream<String> lines = Files.lines(filePath)) {
    lines.forEach(this::decideAndExtract);
}

示例文本文件数据:

REPORT ID: ABCD    
TAG1: 1000375351 PR
DATA1: 7399910002 T
DATA2: 4754400002 B
DATA3     : 1000640
Some Lines Here    
REPORT ID: WXYZ    
TAG1: 1000375351 PR
DATA1: 7399910002 T
DATA2: 4754400002 B
DATA3     : 1000640
Some Lines Here    
REPORT ID: ABCD    
TAG1: 1000375351 PR
DATA1: 7399910002 T
DATA2: 4754400002 B
DATA3     : 1000640
Some Lines Here

【问题讨论】:

  • 我会将文件拆分为多个部分(使用正则表达式匹配“REPORT ID”分隔符),然后使用简单的filter 仅处理您感兴趣的那些元素。跨度>
  • REPORT ID: ABCD TAG1: 1000375351 PR DATA1: 7399910002 T DATA2: 4754400002 B DATA3 : 1000640 不值得归类为实体。 (当然需要对字符串进行一些解析)?
  • 其他行是什么?会不会有 TAG2 后跟 DATA1 和 DATA2,然后 TAG3 后跟 DATA1 和 DATA2.... 提供一个通用的解决方案很重要。
  • 流有两个主要优点。 1) 将中间数据结构简化为容器,以及 2) 用语句表达解决方案。除非您正在创建大量中间数据结构(例如列表和地图),否则我怀疑流方法会更有效。简单地读取文件并进行条件处理可能是最好的方法。这基本上就是流所做的,但需要更多开销来允许更通用的解决方案。
  • @WJS 从REPORTDATA3 结构是不变的。但是,TAG1 和DATA3 的位置可以互换。 DATA3之后有一些随机的行。

标签: java java-stream java-9


【解决方案1】:

Files.lines 似乎是一种常见的反模式,每当需要对文件使用 Stream 时,无论是否实际需要处理单个行。

当需要对文件进行模式匹配时,您选择的第一个工具应该是Scanner

Pattern p = Pattern.compile(
    "REPORT ID: ABCD\\s*\\R"
   +"TAG1\\s*:\\s*(.*?)\\R"
   +"DATA1\\s*:\\s*(.*?)\\R"
   +"DATA2\\s*:\\s*(.*?)\\R"
   +"DATA3\\s*:\\s*(.*?)\\R"); // you can keep this in a static final field

try(Scanner sc = new Scanner(filePath, StandardCharsets.UTF_8);
    Stream<MatchResult> st = sc.findAll(p)) {

    st.forEach(mr -> System.out.println("found tag1: " + mr.group(1)
        + ", data: "+String.join(", ", mr.group(2), mr.group(3), mr.group(4))));
}

模式很容易适应,即使用

Pattern p = Pattern.compile(
    "REPORT ID: ABCD\\s*\\R"
   +"TAG1: (1000375351 PR)\\R"
   +"DATA1\\s*:\\s*(.*?)\\R"
   +"DATA2\\s*:\\s*(.*?)\\R"
   +"DATA3\\s*:\\s*(.*?)\\R"); // you can keep this in a static final field

作为满足您更复杂标准的模式。

但您也可以在 Stream 中提供任意过滤条件:

Pattern p = Pattern.compile(
    "REPORT ID: (.*?)\\s*\\R"
   +"TAG1: (.*?)\\R"
   +"DATA1\\s*:\\s*(.*?)\\R"
   +"DATA2\\s*:\\s*(.*?)\\R"
   +"DATA3\\s*:\\s*(.*?)\\R"); // you can keep this in a static final field

try(Scanner sc = new Scanner(filePath, StandardCharsets.UTF_8);
    Stream<MatchResult> st = sc.findAll(p)) {

    st.filter(mr -> mr.group(1).equals("ABCD") && mr.group(2).equals("1000375351 PR"))
      .forEach(mr -> System.out.println(
          "found data: " + String.join(", ", mr.group(3), mr.group(4), mr.group(5))));
}

允许比示例中的equals 调用更复杂的构造。 (请注意,此示例的组号已更改。)

例如,要支持“REPORT ID”之后的数据项的可变顺序,您可以使用

Pattern p = Pattern.compile("REPORT ID: (.*?)\\s*\\R(((TAG1|DATA[1-3])\\s*:.*?\\R){4})");
Pattern nl = Pattern.compile("\\R"), sep = Pattern.compile("\\s*:\\s*");

try(Scanner sc = new Scanner(filePath, StandardCharsets.UTF_8);
    Stream<MatchResult> st = sc.findAll(p)) {

    st.filter(mr -> mr.group(1).equals("ABCD"))
      .map(mr -> nl.splitAsStream(mr.group(2))
          .map(s -> sep.split(s, 2))
          .collect(Collectors.toMap(a -> a[0], a -> a[1])))
      .filter(map -> "1000375351 PR".equals(map.get("TAG1")))
      .forEach(map -> System.out.println("found data: " + map));
}

findAll 在 Java 9 中可用,但如果您必须支持 Java 8,则可以使用 this answerfindAll 实现。

【讨论】:

  • 好吧,我在 Stream 界面中没有看到 findAll。我正在使用 java 10。我错过了什么吗?
  • @WJS 它不在 Stream 中,而是 Scanner
  • 不幸的是,使用dynamic tag positions,为每种格式创建一个正则表达式可能会很快变得非常粗糙,尤其是如果您想进一步扩展它。
  • @Avi 这样的要求不应该被埋没在 cmets 中。但无论如何,我已经展示了您可以将更简单的正则表达式与更精细的过滤谓词结合起来。然后,这是正则表达式复杂性和过滤后工作之间的权衡。我添加了一个处理动态标签位置的示例。如果该正则表达式看起来仍然过于复杂,那么极端情况是使用"REPORT ID: ((.*?)\\R){4}" 作为模式并在流操作中进行任何其他过滤。但是没有办法使用真正支持多行处理的工具,比如Scanner
【解决方案2】:

dropWhiletakeWhile 不会按您期望的方式工作。他们继续删除或处理流的元素,直到 单个元素不再满足条件。

如果您需要检查所有元素的条件并仅选择其中的部分,则应改用Stream.filter

【讨论】:

    【解决方案3】:

    您可以分两步进行搜索:

    首先将所有报告的列表创建为字符串列表。在下面的代码中,使用了一个指示器来拆分报告条目。

    String newReportIndicator = "=====";
    List<String> reports = Arrays.asList(lines
        .reduce("", (a, l) -> {
          return a +
              ((l.startsWith("REPORT ID: ")) ? newReportIndicator : "") +
              l + System.lineSeparator();
        }).split(newReportIndicator));
    

    然后根据您的条件执行过滤。

    过滤的主要方法:

    List<String> reportsToFind = reports
        .stream().filter(r -> {
          List<String> list = Arrays.asList(r.split(System.lineSeparator()));
          String header = list.get(0).trim();
          return (header.endsWith("ABCD")
              && list.stream().filter(l ->
              l.startsWith("TAG1:") && l.endsWith("1000375351 PR")
          ).count() == 1
          );
        })
        .collect(Collectors.toList());
    
    

    【讨论】:

      猜你喜欢
      • 2017-05-26
      • 1970-01-01
      • 1970-01-01
      • 2020-05-26
      • 1970-01-01
      • 1970-01-01
      • 2014-06-22
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多