Apache Spark - Scala - wie zu FlatMap (k, {v1, v2, v3, ...}) zu ((k, v1), (k, v2), (k, v3), ...)

Question

ich habe dies:

val vector: RDD[(String, Array[String])] = [("a", {v1,v2,..}),("b", {u1,u2,..})] 

wollen konvertieren:

RDD[(String, String)] = [("a",v1), ("a",v2), ..., ("b",u1), ("b",u2), ...] 

eine Ahnung, wie das flatMap mit zu tun. Diese

Answer 1

:

vector.flatMap { case (x, arr) => arr.map((x, _)) } 

Gibst du:

scala> val vector = sc.parallelize(Vector(("a", Array("b", "c")), ("b", Array("d", "f")))) 
vector: org.apache.spark.rdd.RDD[(String, Array[String])] = 
       ParallelCollectionRDD[3] at parallelize at <console>:27 


scala> vector.flatMap { case (x, arr) => arr.map((x, _)) }.collect 
res4: Array[(String, String)] = Array((a,b), (a,c), (b,d), (b,f)) 

Answer 2

Sie können auf jeden Fall brauchen flatMap zu verwenden, wie Sie erwähnt haben, sondern darüber hinaus, müssen Sie scala verwenden map auch.

Zum Beispiel:

val idToVectorValue: RDD[(String, String ] = vector.flatMap((id,values) => values.map(value => (id, value))) 

Answer 3

Funktion einzelner Parameter verwenden:

vector.flatMap(data => data._2.map((data._1, _)))