hadoop中reduce任务的数量问题

在map阶段总共会产生10个key,在reduce阶段每个key交由一个reduce函数来进行处理,我调用setNumReduceTasks设置10个reduce任务,这样总共有10个输出文件,我想当然地以为每个key会产生一个输出文件,但是奇怪的是10个文件中有的文件是空的,就是说有的key对应的信息并没有输出。于是我把参数设置为20,这样产生了20个输出文件,其中10个是空的,其余10个刚好与10个key相对应。

我的问题是为什么将reduce任务设置为10的时候并没有按一个key一个文件这样来输出,而是有的key没有输出,有的文件却是空的,这背后的逻辑是怎样的?

阅读 5.8k
撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进