spark中flatmap和map的区别？

Question

spark中flatmap和map的区别

Answer 1

以前总是分不清楚Spark中flatmap和map的区别，现在弄明白了，总结分享给大家，先看看flatmap和map的定义。map()是将函数用于RDD中的每个元素，将返回值构成新的RDD。flatmap()是将函数应用于RDD中的每个元素，将返回的迭代器的所有内容构成新的RDD有些拗口，看看例子就明白了。val rdd = sc.parallelize(List("coffee panda","happy panda","happiest panda party"))输入rdd.map(x=>x).collect结果res9: Array[String] = Array(coffee panda, happy panda, happiest panda party)输入rdd.flatMap(x=>x.split(" ")).collect结果:res8: Array[String] = Array(coffee, panda, happy, panda, happiest, panda, party)flatMap说明白就是先map然后再flat，再来看个例子val rdd1 = sc.parallelize(List(1,2,3,3))scala> rdd1.map(x=>x+1).collectres10: Array[Int] = Array(2, 3, 4, 4)scala> rdd1.flatMap(x=>x.to(3)).collectres11: Array[Int] = Array(1, 2, 3, 2, 3, 3, 3)这下应该完全明白了吧，不懂给我留言，欢迎指正。