spark graphx - 在 scala 中创建图形对象列表

Question

我想让图中的边成为子图。然后我想根据一个标准加入这些子图并形成派系。基本上我想知道如何创建Graph 对象列表。

如何在 Scala 中使用 Apache Spark 的 Graph X API 实现这一点？

import org.apache.spark._
import org.apache.spark.graphx._
import org.apache.spark.rdd.RDD
import scala.collection.mutable.ArrayBuffer

val cliques = ArrayBuffer[Graph[(String, Int),Int]]()

var edges = sc.textFile("edges.g3").map { 
  line => var fields = line.split("\\s+")

  println(line)

  val vertexArray = Array(
  (fields(0).toLong, (fields(0), 1)),
  (fields(1).toLong, (fields(1), 1)))

  val edgeArray = Array(
  Edge(fields(0).toLong,fields(1).toLong,0)
  )

  val vertexRDD: RDD[(Long, (String, Int))] = sc.parallelize(vertexArray)
  val edgeRDD: RDD[Edge[Int]] = sc.parallelize(edgeArray)

  val graph: Graph[(String, Int),Int] = new Graph(vertexRDD, edgeRDD)

  cliques += graph

}

此代码给出了类Graph 是抽象的错误，因此无法实例化。有没有办法创建图表列表？

如何实例化 Graph 对象是我的主要问题？

Answer 1

您需要使用Graph(vertexRDD, edgeRDD) 而不是new Graph(vertexRDD, edgeRDD)。查看documentation 中的一些示例。