Hadoop面试题答案

面试题,看看书找答案，看看你能答对多少(2)以下答案经过查阅资料与about云群（39327136）友，hadoop爱好者朋友，讨论后，二次修改答案。1.下面哪个程序负责HDFS数据存储。a)NameNodeb)Jobtrackerc)Datanoded)secondaryNameNodee)tasktracker答案Cdatanode2.HDfS中的block默认保存几份？a)3份b)2份c)1份d)不确定答案A默认3分在一个节点启动？a)SecondaryNameNodeb)DataNodec)TaskTrackerd)Jobtracker答案D分析：hadoop的集群是基于master/slave模式，namenode和jobtracker属于master，datanode和tasktracker属于slave，master只有一个，而slave有多个SecondaryNameNode内存需求和NameNode在一个数量级上，所以通常secondaryNameNode（运行在单独的物理机器上）和NameNode运行在不同的机器上。中几个主要概念，mapreduce整体上可以分为这么几条执行线索：jobclient，JobTracker与TaskTracker。1、JobClient会在用户端通过JobClient类将应用已经配置参数打包成jar文件存储到hdfs，并把路径提交到Jobtracker,然后由JobTracker创建每一个Task（即MapTask和ReduceTask）并将它们分发到各个TaskTracker服务中去执行2、JobTracker是一个master服务，软件启动之后JobTracker接收Job，负责调度Job的每一个子任务task运行于TaskTracker上，并监控它们，如果发现有失败的task就重新运行它。一般情况应该把JobTracker部署在单独的机器上。3、TaskTracker是运行在多个节点上的slaver服务。TaskTracker主动与JobTracker通信，接收作业，并负责直接执行每一个任务。)MartinFowlerb)KentBeckc)Dougcutting答案CDougcutting5.HDFS默认BlockSizea)32MBb)64MBc)128MB答案：B(因为版本更换较快，这里答案只供参考)6.下列哪项通常是集群的最主要瓶颈a)CPUb)网络c)磁盘IOd)内存答案：C磁盘首先集群的目的是为了节省成本，用廉价的pc机，取代小型机及大型机。小型机和大型机有什么特点？1.cpu处理能力强2.内存够大所以集群的瓶颈不可能是a和d3.网络是一种稀缺资源，但是并不是瓶颈。4.由于大数据面临海量数据，读写数据都需要io，然后还要冗余数据，hadoop一般备3份数据，所以IO就会打折扣。同样可以参考下面帖子的实际案例集群瓶颈为什么磁盘io7.关于SecondaryNameNode哪项是正确的？a)它是NameNode的热备b)它对内存没有要求c)它的目的是帮助NameNode合并编辑日志，减少NameNode启动时间d)SecondaryNameNode应与NameNode部署到一个节点答案C。D答案可以参考第三题多选题：8.下列哪项可以作为集群的管理？a)Puppetb)Pdshc)ClouderaManagerd)Zookeeper答案1：ABD具体可查看什么是Zookeeper，Zookeeper的作用是什么，在Hadoop及hbase中具体作用是什么二次整理修改后答案：ABC分析：A：puppetpuppet是一种Linux、Unix、windows平台的集中配置管理系统B：pdsh可以实现在在多台机器上执行相同的命令详细参考：集群管理小工具介绍-pdshC：可以参考ClouderaManager四大功能【翻译】首先这里给管理下一个定义：部署、配置、调试、监控，属于管理因为zookeeper不满足上面要求，所以不纳入管理范围。)如果一个机架出问题，不会影响数据读写b)写入数据的时候会写到不同机架的DataNode中c)MapReduce会根据机架获取离自己比较近的网络数据答案ABC具体可以参考hadoop机架感知--加强集群稳固性，该如何配置hadoop机架感知10.Client端上传文件的时候下列哪项正确a)数据经过NameNode传递给DataNodeb)Client端将文件切分为Block，依次上传c)Client只上传数据到一台DataNode，然后由NameNode负责Block复制工作答案B分析：Client向NameNode发起文件写入的请求。NameNode根据文件大小和文件块配置情况，返回给Client它的信息。Client将文件划分为多个Block，根据DataNode的地址信息，按顺序写入到每一个DataNode块中。具体查看HDFS体系结构简介及优缺点11.下列哪个是Hadoop运行的模式a)单机版b)伪分布式c)分布式答案ABC12.Cloudera提供哪几种安装CDH的方法a)Clouderamanagerb)Tarballc)Yumd)Rpm答案：ABCD具体可以参考HadoopCDH四种安装方式总结及实例指导判断题：不仅可以进行监控，也可以进行告警。（正确）分析：此题的目的是考Ganglia的了解。严格意义上来讲是正确。ganglia作为一款最常用的Linux环境中的监控软件，它擅长的的是从节点中按照用户的需求以较低的代价采集数据。但是ganglia在预警以及发生事件后通知用户上并不擅长。最新的ganglia已经有了部分这方面的功能。但是更擅长做警告的还有Nagios。Nagios，就是一款精于预警、通知的软件。通过将Ganglia和Nagios组合起来，把Ganglia采集的数据作为Nagios的数据源，然后利用Nagios来发送预警通知，可以完美的实现一整套监控管理的系统。具体可以查看完美集群监控组合ganglia和nagios14.BlockSize是不可以修改的。（错误）它是可以被修改的Hadoop的基础配置文件是hadoop-default.xml，默认建立一个Job的时候会建立Job的Config，Config首先读入hadoop-default.xml的配置，然后再读入hadoop-site.xml的配置（这个文件初始的时候配置为空），hadoop-site.xml中主要的系统级配置。具体配置可以参考下1.property2.namedfs.block.size/name//block的大小，单位字节，后面会提到用处，必须是512的倍数，因为采用crc作文件完整性校验，默认配置512是checksum的最小单元。3.value5120000/value4.descriptionThedefaultblocksizefornewfiles./description5./property15.Nagios不可以监控Hadoop集群，因为它不提供Hadoop支持。（错误）分析：Nagios是集群监控工具，而且是云计算三大利器之一意外终止，SecondaryNameNode会接替它使集群继续工作。（错误）分析：SecondaryNameNode是帮助恢复，而不是替代，如何恢复，可以查看hadoop根据SecondaryNameNode恢复Namenode17.ClouderaCDH是需要付费使用的。（错误）分析：第一套付费产品是ClouderaEnterpris，ClouderaEnterprise在美国加州举行的Hadoop大会(HadoopSummit)上公开，以若干私有管理、监控、运作工具加强Hadoop的功能。收费采取合约订购方式，价格随用的Hadoop叢集大小变动。18.Hadoop是Java开发的，所以MapReduce只支持Java语言编写。（错误）分析：rhadoop是用R语言开发的，MapReduce是一个框架，可以理解是一种思想，可以使用其他语言开发。具体可以查看Hadoop简介(1):什么是Map/Reduce19.Hadoop支持数据的随机读写。（错）分析：lucene是支持随机读写的，而hdfs只支持随机读。但是HBase可以来补救。HBase提供随机读写，来解决Hadoop不能处理的问题。HBase自底层设计开始即聚焦于各种可伸缩性问题：表可以很“高”，有数十亿个数据行；也可以很“宽”，有数百万个列；水平分区并在上千个普通商用机节点上自动复制。表的模式是物理存储的直接反映，使系统有可能提高高效的数据结构的序列化、存储和检索。20.NameNode负责管理metadata，client端每次读写请求，它都会从磁盘中读取或则会写入metadata信息并反馈client端。（错误）修改后分析：分析：NameNode不需要从磁盘读取metadata，所有数据都在内存中，硬盘上的只是序列化的结果，只有每次namenode启动的时候才会读取。1）文件写入Client向NameNode发起文件写入的请求。NameNode根据文件大小和文件块配置情况，返回给Client它所管理部分DataNode的信息。Client将文件划分为多个Block，根据DataNode的地址信息，按顺序写入到每一个DataNode块中。2）文件读取Client向NameNode发起文件读取的请求。NameNode返回文件存储的DataNode的信息。Client读取文件信息。具体查看、DataNode和Client三者之间协作关系21.NameNode本地磁盘保存了Block的位置信息。（个人认为正确，欢迎提出其它意见）分析：DataNode是文件存储的基本单元，它将Block存储在本地文件系统中，保存了Block的Meta-data，同时周期性地将所有存在的Block信息发送给NameNode。具体同样查看hadoop中NameNode、DataNode和Client三者之间协作关系22.DataNode通过长连接与NameNode保持通信。（）这个有分歧：具体正在找这方面的有利资料。下面提供资料可参考。首先明确一下概念：（1）.长连接Client方与Server方先建立通讯连接，连接建立后不断开，然后再进行报文发送和接收。这种方式下由于通讯连接一直存在，此种方式常用于点对点通讯。（2）.短连接Client方与Server每进行一次报文收发交易时才进行通讯连接，交易完毕后立即断开连接。此种方式常用于一点对多点通讯，比如多个Client连接一个Server.23.Hadoop自身具有严格的权限管理和安全措施保障集群正常运行。