Ocean
  • 1.6k

如何把Spark RDD中的内容按行打印出来?

请问我想把最后wordcounts里的内容按行打印出来要怎样编写代码?,向下面这样:
means 1
under 2
this 3
...

Hadoop 流行的一个通用的数据流模式是 MapReduce。Spark 能很容易地实现 MapReduce:

scala> val wordCounts = textFile.flatMap(line => line.split(" ")).map(word => (word, 1)).reduceByKey((a, b) => a + b)
wordCounts: spark.RDD[(String, Int)] = spark.ShuffledAggregatedRDD@71f027b8

这里,我们结合 flatMap, map 和 reduceByKey 来计算文件里每个单词出现的数量,它的结果是包含一组(String, Int) 键值对
的 RDD。我们可以使用 [collect] 操作在我们的 shell 中收集单词的数量:

scala> wordCounts.collect()
res6: Array[(String, Int)] = Array((means,1), (under,2), (this,3), (Because,1), (Python,2), (agree,1), (cluster.,1), ...)

请问我想把最后wordcounts里的内容按行打印出来要怎样编写代码?,向下面这样:
means 1
under 2
this 3
...

阅读 19.7k
评论 2016-03-01 提问
    2 个回答
    Ocean
    • 1.6k

    你这个后面接一个saveAsTextFile("E:/text.txt")

    打印控制台是 .foreach(println(_))

    评论 赞赏 2016-03-01

      可以写个函数,我用python,你可以类比。

      output = wordCounts.collect()
      def output(output):
          for key, value in output:
              print key, value
      
      评论 赞赏 2016-03-01
        撰写回答

        登录后参与交流、获取后续更新提醒