在map阶段总共会产生10个key,在reduce阶段每个key交由一个reduce函数来进行处理,我调用setNumReduceTasks
设置10个reduce任务,这样总共有10个输出文件,我想当然地以为每个key会产生一个输出文件,但是奇怪的是10个文件中有的文件是空的,就是说有的key对应的信息并没有输出。于是我把参数设置为20,这样产生了20个输出文件,其中10个是空的,其余10个刚好与10个key相对应。
我的问题是为什么将reduce任务设置为10的时候并没有按一个key一个文件这样来输出,而是有的key没有输出,有的文件却是空的,这背后的逻辑是怎样的?