如何将 WrappedArray 转换为 spark 中的字符串？

Question

我有一个包含嵌套数组的 json 文件，如下所示，

|    |    |-- coordinates: array (nullable = true)
|    |    |    |-- element: array (containsNull = true)
|    |    |    |    |-- element: array (containsNull = true)
|    |    |    |    |    |-- element: array (containsNull = true)
|    |    |    |    |    |    |-- element: long (containsNull = true)

我已经使用Spark读取json并爆炸了数组。

explode(col("list_of_features.geometry.coordinates"))

返回值如下，

WrappedArray(WrappedArray(WrappedArray(1271700, 6404100), WrappedArray(1271700, 6404200), WrappedArray(1271600, 6404200), WrappedArray(1271600, 6404300),....

但原始输入看起来没有 WrappedArray。

类似的，

[[[[1271700,6404100],[1271700, 6404200],[1271600, 6404200]

最终目的是将没有WrappedArray的坐标（可能是字符串）存储在csv文件中，供Hive读取数据。

explode 之后有没有办法只用适当的方括号括起来的坐标。

或者我可以使用replace替换RDD中的WrappedArray字符串值吗？

Answer 1

您可以使用UDF 到flatten WrappedArray 并将其String 值设为

//udf
val concatArray = udf((value:  Seq[Seq[Seq[Seq[Long]]]]) => {
  value.flatten.flatten.flatten.mkString(",")
})

现在使用udf 将列创建/替换为

df1.withColumn("coordinates", concatArray($"coordinates") )

这应该给你一个 string 分隔 "," 替换 WrappedArray

更新：如果您的格式与string 相同，带有括号，那么您可以这样做

val concatArray = udf((value:  Seq[Seq[Seq[Seq[Long]]]]) => {
  value.map(_.map(_.map(_.mkString("[", ",", "]")).mkString("[", "", "]")).mkString("[", "", "]"))
})

输出：

[[[[1271700,6404100][1271700,6404200][1271600,6404200]]]]

希望这会有所帮助！