文档详情

《Hadoop技术原理》课件——7.pptx

发布:2025-01-19约1.09万字共20页下载文档
文本预览下载声明

Hadoop技术原理

MapReduce进阶

MapReduce进阶

01MapReduce进阶

·MapReduce输入格式

逻辑分片(按照200字分片)

荷塘月色

这几天心里颇不宁静。今晚在院子里坐着乘凉,忽然想起日日走过的荷塘,在这满月的光里,总该另有一番样子吧。月亮渐

渐地升高了,墙外马路上孩子们的欢笑,已经听不见了;妻在屋里拍着闰儿1),迷迷糊糊地哼着眠歌。我悄悄地披了大衫,带上|

门出去。

沿着荷塘,是一条曲折的小煤屑路。这是一条幽僻的路;白天也少人走,夜晚更加寂寞。荷塘四面,长着许多树,蓊蓊郁郁

2的。路的一旁,是些杨柳,和一些不知道名字的树。没有月光的晚上,这路上阴森森的,有些怕人。今晚却很好,虽然月光也

还是聚淡的。这剩下的本该给第二个分片,现在划给第一个分片

路上只我一个人,背着手踱3着。这一片天地好像是我的;我也像超出了平常的自己,到了另一个世界里。我爱热闹,也爱

冷静;爱群居,也爱独处。像今晚上,一个人在这苍茫的月下,什么都可以想,什么都可以不想,便觉是个自由的人。白天里-I

定要做的事,一定要说的话,现在都可不理。这是独处的妙处,我且受用这无边的荷香月色好了。

曲曲折折的荷塘上面,弥望④的是田田S的叶子。叶子出水很高,像亭亭的舞女的裙。层层的叶子中间,零星地点缀着些

白花,有袅娜⑥地开着的,有羞涩地打着朵儿的;正如一粒粒的明珠,又如碧天里的星星,又如刚出浴的美人。微风过处,送来

缕缕清香,仿佛远处高楼上渺茫的歌声似的。这时候叶子与花也有一丝的颤动,像闪电般,霎时传过荷塘的那边去了。叶子本是

肩并肩密密地挨着,这便宛然有了一道凝碧的波痕。叶子底下是脉脉7的流水,遮住了,不能见一些颜色;而叶子却更见风致

(8了。

02MapReduce进阶

·MapReduce输入格式

逻辑分片

有了逻辑分片,就可以逐行获取数据

荷塘月色

第1行。今晚在院子里坐着乘凉,忽然想起日日走过的荷塘,在这满月的光里,总该另有一番样子吧。月亮渐

斩地开高了,墙外马路上孩子们的欢笑,已经听不见了;妻在屋里拍着闰儿1),迷迷糊糊地哼着眠歌。我悄悄地披了大衫,带上

中门出去。

沿着荷塘,是一条曲折的小煤屑路。这是一条幽僻的路;白天也少人走,夜晚更加寂寞。荷塘四面,长着许多树,蓊蓊郁郁

的。路的一旁,是些杨柳,和一些不知道名字的树。没有月光的晚上,这路上阴森森的,有些怕人。今晚却很好,虽然月光也

还是酸淡的。这剩下的本该给第二个分片,现在划给第一个分片

路上只我一个人,背着手踱3着。这一片天地好像是我的;我也像超出了平常的自己,到了另一个世界里。我爱热闹,也爱

冷静;爱群居,也爱独处。像今晚上,一个人在这苍茫的月下,什么都可以想,什么都可以不想,便觉是个自由的人。白天里-I

定要做的事,一定要说的话,现在都可不理。这是独处的妙处,我且受用这无边的荷香月色好了。

曲曲折折的荷塘上面,弥望(④的是田田S的叶子。叶子出水很高,像亭亭的舞女的裙。层层的叶子中间,零星地点缀着些

白花,有袅娜⑥地开着的,有羞涩地打着朵儿的;正如一粒粒的明珠,又如碧天里的星星,又如刚出浴的美人。微风过处,送来

03MapReduce进阶

·MapReduce输入格式

InputFormat类实现了两个功能

·数据切分,获得SplitInput(逻辑切片),FileInputFormat.getSplits()获取

显示全部
相似文档