2017-06-06 111 views
1

我有這個prbolem,我有一個RDD[(String,String, List[String]),我想 「flatmap」 它獲得RDD[(String,String, String)]Flatmap階[字符串,字符串列表[字符串]

如:

val x :RDD[(String,String, List[String]) = 
RDD[(a,b, list[ "ra", "re", "ri"])] 

我希望得到:

val result: RDD[(String,String,String)] = 
RDD[(a, b, ra),(a, b, re),(a, b, ri)])] 

回答

6

使用flatMap

val rdd = sc.parallelize(Seq(("a", "b", List("ra", "re", "ri")))) 
// rdd: org.apache.spark.rdd.RDD[(String, String, List[String])] = ParallelCollectionRDD[7] at parallelize at <console>:28 

rdd.flatMap{ case (x, y, z) => z.map((x, y, _)) }.collect 
// res23: Array[(String, String, String)] = Array((a,b,ra), (a,b,re), (a,b,ri)) 
0

這是再次使用flatMap

val rdd = sparkContext.parallelize(Seq(("a", "b", List("ra", "re", "ri")))) 
rdd.flatMap(array => array._3.map(list => (array._1, array._2, list))).foreach(println) 
+0

我不同意,結果的類型這裏將是'RDD [列表[(字符串,字符串,字符串)]]'而OP做的另一種方式請求'RDD [(String,String,String)]' – GPI

+0

是的你是對的@GPI讓我更新我的答案:)謝謝你讓我知道 –