【发布时间】:2018-02-12 22:30:40
【问题描述】:
我有大量嵌套/分层地图格式的数据。我正在使用 Scala 和 spark 流,对此我很陌生。可以说示例流数据实例/行看起来像 - Map(nd -> 1, du -> 870, dg -> Map(), did -> GO37, host -> 11.1.1.22, sg -> Map(), nfw -> Map( dst_ip -> 11.1.1.23, v -> 1, src_ip -> 11.1.1.11, pkts -> 1), dnname -> RG, app_name -> 读取数据, bpp -> 40)
我如何读取 'dst_ip' 值?因为我想读取 'dst_ip' 的所有实例并计算它的计数。我尝试了各种方法,例如 get, option,但我没有得到想要的输出。请告知我如何检索所需的信息。
【问题讨论】:
-
如果您可以避免在类型中首先使用
Any获取值,那么您通常应该致力于这样做。如果您在处理Any时遇到问题,通常应该将问题分为两部分:1)将无类型数据转换为完全类型,2)处理数据。
标签: scala spark-streaming key-value scala-collections