大数据阿里面试笔试题总结,我的结果 当然是凉凉

我  秀儿  在学习大数据一年后去了阿里面试,这是我笔试的时候题目,虽然我凉了,但是希望大家加油

总结给大家看看

参考下面的M R系统的场景:HDFS 块大小为64MB;输入类型为FileInputFormat;有三个文件大小分别是:

0.在Hadoop中定义的主要公用InputFormat中,默认是哪一个?(A)

A、 TextInputFormat
B、 KeyValueInputFormat
C、 SequenceFileInputFormat

1. 下面哪个程序负责 HDFS 数据存储?(C)

A.NameNode
B.JobTracker
C.DataNode
D.SecondaryNameNode
E.tasktracker

2.HDFS 中的 block 默认保存几份?(A)

A.3 份
B.2 份
C.1 份
D.不确定

3.下列哪个程序通常与 NameNode 在一个节点启动?(D)

A.SecondaryNameNode
B.DataNode
C.TaskTracker
D.JobTracker

hadoop的集群是基于master/slave模式,namenode和jobtracker属于master,datanode和tasktracker属于slave,master只有一个,而slave有多个.
SecondaryNameNode内存需求和NameNode在一个数量级上,所以通常secondary NameNode(运行在单独的物理机器上)和 NameNode 运行在不同的机器上。
JobTracker对应于NameNode,TaskTracker对应于DataNode.
DataNode和NameNode是针对数据存放来而言的.JobTracker和TaskTracker是对于MapReduce执行而言的.
mapreduce中几个主要概念,mapreduce 整体上可以分为这么几条执行线索:

jobclient,JobTracker与TaskTracker。

1、JobClient会在用户端通过JobClient类将已经配置参数打包成jar文件的应用存储到hdfs,并把路径提交到Jobtracker,然后由JobTracker创建每一个Task(即 MapTask 和 ReduceTask) 并将它们分发到各个TaskTracker服务中去执行。
2、JobTracker是一master服务,软件启动之后JobTracker接收Job,负责调度Job的每一个子任务。task运行于TaskTracker上,并监控它们,如果发现有失败的task就重新运行它。一般情况应该把JobTracker 部署在单独的机器上。
3、TaskTracker是运行在多个节点上的slaver服务。TaskTracker主动与JobTracker通信,接收作业,并负责直接执行每一个任务。 TaskTracker 都需要运行在HDFS的DataNode上。

4.关于 SecondaryNameNode 哪项是正确的?(C)

A.它是 NameNode 的热备
B.它是内存没有要求
C.他的目的使帮助 NameNode 合并编辑日志,减少 NameNode 启动时间
D. SecondaryNameNode 应与 NameNode 部署到一个节点

5、HDFS 默认 BlockSize 是(B)

A.32MB
B.64MB
C.128MB

6、下列哪项通常是集群的最主要瓶颈(C)

A.CPU
B.网络
C.磁盘 IO
D.内存

7、 下列哪项可以作为集群的管理?(ABC)

A.Puppet
B.Pdsh
C.ClouderaManager
D.Zookeeper

8、Client 端上传文件的时候下列哪项正确?(BC)

A.数据经过 NameNode 传递 DataNode
B.Client 端将文件切分为 Block,依次上传
C.Client 只上传数据到一台 DataNode,然后由 NameNode 负责 Block 复制工作

9、下列哪个是 Hadoop 运行的模式?(ABC)

A.单机版
B.伪分布式
C.分布式

10、列举几个hadoop生态圈的组件并做简要描述

Zookeeper:是一个开源的分布式应用程序协调服务,基于zookeeper可以实现同步服务,配置维护,命名服务。
Flume:一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统。
Hbase:是一个分布式的、面向列的开源数据库, 利用Hadoop HDFS作为其存储系统.
Hive:基于Hadoop的一个数据仓库工具,可以将结构化的数据档映射为一张数据库表,并提供简单的sql 查询功能,可以将sql语句转换为MapReduce任务进行运行。
Sqoop:将一个关系型数据库中的数据导进到Hadoop的 HDFS中,也可以将HDFS的数据导进到关系型数据库中。

11、Hadoop中需要哪些配置文件,其作用是什么?

12、 请列出正常工作的Hadoop集群中Hadoop都分别需要启动哪些进程,它们的作用分别是什么?

13、 HDFS的存储机制?

14、HDFS的存储机制是什么

15、Hadoop 是由哪几个组件组成

16、hadoop 节点动态上线下线怎么操作?

17、Hadoop 中 job 和 task 之间的区别是什么?

18、mapred.job.tracker 命令的作用

19、如何决定一个job的map和reduce的数量?

20、如何为一个Hadoop任务设置mappers的数量?

21、如何为一个Hadoop任务设置要创建的 reducer的数量?

22、 yarn 的新特性

23、如何使用mapReduce实现两个表的join?

24、 Hadoop的sequencefile的格式,并说明下什么是java序列化,如何实现java序列化?

25、简述hadoop1与hadoop2 的架构异同.

太多了不想写了,,,

猜你喜欢

转载自blog.csdn.net/D55dffdh/article/details/84880772