Hadoop分布式文件系统结构与设计

北华大学分布式云计算（论文）北华大学计算机科学技术学院分布式云计算论文学生姓名：杨天瑞学号：33专业：网络工程指导教师：李益民二零一六年四月北华大学分布式云计算（论文）Hadoop分布式文件系统：结构与设计网络13－2杨天瑞33号摘要Hadoop分布式文件系统(HDFS)是一个设计为用在普通硬件设备上的分布式文件系统。它与现有的分布式文件系统有很多近似的地方，但又和这些文件系统有很明显的不同。HDFS是高容错的，设计为部署在廉价硬件上的。HDFS对应用程序的数据提供高吞吐量，而且适用于那些大数据集应用程序。HDFS开放了一些POSIX的必须接口，容许流式访问文件系统的数据。HDFS最初是为了Apache的Nutch网络搜索引擎项目的下层构件而设计的。是Hadoop项目的一部分，而这又是Apache的Lucene项目的一部分。关键字：HDFS，Hadoop，问文件系统，Lucene。11.硬件错误硬件错误是正常的，而不是异常。HDFS实例由成百上千个服务器组成，每个都存储着文件系统的一部分数据。事实上，这就会有大量的组件，而每个组件出故障的可能性都很大，这意味着HDFS总有一些组件是不能工作的。因此，检测错误并快速自动恢复就成了HDFS的核心设计目标。1.2.流式数据访问运行在HDFS上的应用程序需要流式的访问它们的数据集，它们也不是通常运行在普通文件系统上的普通应用程序。HDFS为了那些批量处理而设计的，而不是为普通用户的交互使用。强调的是数据访问的高吞吐量而不是数据访问的低反应时间。POSIX强加的很多硬性需求是HDFS上应用程序所不需要的，这些POSIX语义在一些关键环境下被用来提高数据的吞吐频率。1.3.大数据集运行在HDFS上的应用程序使用大数据集。HDFS一个典型的文件可能是几GB的或者几TB的。因此，HDFS适用于大文件。这将提供高集成带宽，并在一几集群中提供上百个结点。一个实例可能支持上千万个文件。北华大学分布式云计算（论文）1.4.简单一致性模型HDFS的应用程序需要对文件实行一次性写，多次读的访问模式。文件一旦建立后写入，文件就不需要再更改了。这样的假定简化了数据一致性问题并使高数据吞吐量成为可能。MapReduce程序或者网络爬虫程序就很适合使用这样的模型。当然未来计划支持增量写。1.5.移动计算环境比移动数据划算如果就在数据的旁边就执行对这些数据的操作，那么程序所使用的设备就会很高效。这当文件相当巨大的时候就尤其正确。这可以减少网络的拥塞和提高系统的吞吐量。这个假设还意味着，常常是把计算迁移到数据存储的近处更好，而不是把数据传输到程序运行的地方。HDFS提供了程序接口以便把他们自己移动到数据存储的地方执行。1.6.跨硬件和软件平台的移动HDFS设计为容易的从一个平台移动到另一个平台。这有助于HDFS被采用做为一个大程序集合的工作平台。2.名字结点和数据结点HDFS是主/从结构的。一个集群有一个名字结点，也就是主控制服务器，负责管理文件系统的名字空间并协调客户对文件的访问。还有一堆数据结点，一般一个物理结点上部署一个，负责它们所在的物理结点上的存储管理。HDFS开放文件系统的名字空间以便让用户数据存储的文件中。内部，一个文件被分割为一个或者多个数据块，这些数据块存储在一组数据结点中。名字结点执行文件系统的名字空间操作，比如打开、关闭、重命名文件或目录，还决定数据块从数据结点的映射。数据结点负责提供客户的读写请求。数据结点还依照名字结点的指令执行数据块的创建、删除复制工作。名字结点和数据结点是设计为运行在普通机器上的软件组件。这些机器大多运行GNU/Linux操作系统。HDFS使用JAVA语言来实现;任何支持JAVA的机器北华大学分布式云计算（论文）都可以运行名字结点和数据结点软件。使用高度可以移植的JAVA语言意味着HDFS可以被很多种机器使用。一个典型的部署有一台指定的机器只运行名字结点，体系结构并不排除在那台机器上也运行数据结点，但是现实中的部署很少那样使用。一个集群中只有一个名字结点大大简化了系统机构。名字结点做为所有系统元数据的存储和仲裁者。系统这样设计就会使用户数据从不会流经名字结点。3.文件系统的名字空间HDFS支持传统的文件组织体系结构。用户或者程序可以创建目录，并在目录中存储文件。名字空间的结构和大多现有文件系统类似。你可以创建、删除文件，把文件从一个目录移动到另一个目录，或者重命名文件。HDFS还没有实现用户配额和访问权限控制，也不支持硬连接和软连接。当然体系也不妨碍实现这些特性。名字结点维护系统的名字空间，它将记录名字空间内的任何改动或者名字空间本身的属性改动。用户可以指定HDFS中文件复制的份数，这个份数称为复制因子，由名字结点记录。4.数据复制HDFS被设计为在一个大集群里跨机器、可靠的存储非常大的文件。每个文件都存储为一系列的块，同一文件中除最后一块以外的所有块都是一样大的。文件的块都通过复制来保证容错。每个文件的块的大小和复制因子都是可以配置的。程序可以指定文件复制的次数，复制因子可以在文件创建时候指定，也可以在以后指定。HDFS的文件都是一次性写入的，并且严格限制任何时候都只有一个写用户。名字结点根据块复制状态做出所有决定，它会周期的收到来自集群内数据结点的心跳和块报告。能收到心跳证明数据结点工作是正常的。一个块报告应该包括数据结点上所有块的列表。北华大学分布式云计算（论文）4.1.复制品的位置：婴儿起步复制品的位置对于HDFS的可靠性和性能来说是很关键的，和其他分布式文件系统最大的区别就是它能优化复制品的位置，这个特性需要大量的调整和经验。小心衡量复制品的放置是为了提高数据的可靠性、可用性、网络带宽利用率。目前对于复制品放置的策略只是朝这个方向努力的第一步，短期的目标是要在生产系统中验证，更多学习它的行为，并建立一个基础来测试和研究更复杂的策略。大的HDFS实体在一大堆机器上运行着，这些机器可能要跨几个机柜来放。不同柜子里的两个结点通信的时候要通过交换机。大多数情况下，同一个机柜的机器间的带宽比不同机柜的机器间的带宽要大。启动的时候，每个数据结点确定自己所在的机柜并通知名字结点注册表中此机柜的ID。HDFS提供一些API，以方便可拆卸模块用来确定自己所在的机柜的ID。有个简单但不是很理想的策略是：在不同机柜上放置复制品。这防止在整个机柜宕掉的时候丢失数据，还容许在读数据的时候使用多个机柜的带宽。这个策略还可以均匀的放置复制品，以便在组件失败的时候平衡负载。但是，这个策略会增加写的代价，写操作需要跨机柜的传输数据块。对于一般的情况，当复制因子是3的时候，HDFS的部署策略是：在本地机柜放置一个结点，此机柜再放一个不同的结点，然后在另一个机柜放一个结点。这样的策略砍掉了机柜内部写操作的传输，这将提高了写的性能。机柜坏掉的概率比一个结点坏掉的概率要小的多;这个策略不会影响数据的可靠性和可用性的保证。实际上，当从两个不同的机柜上读数据块的时候，对比从三个上读，并不减少总使用带宽。使用此策略，文件的复制品不能跨机柜均匀的分配。1/3的复制品放在一个结点上，(这样就有)2/3复制品放在同一个机柜上，最后的1/3均匀的放在其他的机柜的结点上。这个策略提高了写的性能而没有对数据可靠性或读性能造成损失。当前，缺省的复制品放置策略，也就是这里讨论的策略还是一个正在进行中的工作。北华大学分布式云计算（论文）4.2.复制品选择为了减少总带宽消耗和读延时，HDFS会试图使用离读客户最近的复制品来满足读请求。如果在读结点的同一个机柜有一个复制品，那么这个复制品将是最合适满足这个读请求的。如果HDFS机群跨了多个数据中心，那么驻留在本地数据中心的复制品就比远程的复制品更合适。4.3.安全模式启动的时候，名字结点进入一个特殊的状态叫做安全模式，此时不会出现数据块的复制。名字结点会收到数据结点的心跳和数据块报告。数据块报告包括一个数据结点所拥有的数据块列表。每个数据块里都有指定数目的复制品。当某个名字结点登记过数据复制品的最小数目，数据块就被认为是安全复制了。在那么可配置百分比安全复制的数据块在名字结点登记后(加上附加的30秒)，名字结点退出安全模式。它将确定数据块(如果有的话)比指定的复制品数据要少的那些，然后对这些数据块进行复制。5.文件系统元数据的持久性HDFS的命名空间存储在名字结点上，名字结点使用叫做“编辑日志”的事务日志来持久化记录文件系统元数据的每次变化。例如，当在HDFS中创建一个文件的时候，名字结点就会在“编辑日志”中插入一条记录。类似的，当文件的复制因子也会引起一条新的记录被插入“编辑日志”。名字结点使用本地操作系统的文件才存储“编辑日志”。整个文件系统的命名空间，包括块到文件的影射，文件系统的属性，都存储在一个叫做“文件系统镜象”的文件里，这个文件也是放在名字结点本地操作系统上的。名字结点在内存里保持一份含有整个系统的命名空间以及文件块影射的镜象。关键的元数据条目设计的很简洁，这样一个有4GB内存的名字结点就足以支持大量的目录和文件。当名字结点启动的时候，它会从磁盘读取“文件系统镜象”和“编辑日志”，把“编辑日志”的事务都应用到内存中的文件镜象上，然后在新的文件镜象刷新到硬盘上，这时因为事务因为已经被持久化了，就可以把旧的北华大学分布式云计算（论文）“编辑日志”截短了。这个过程叫做检查点。在当前的实现中，检查点只出现在名字结点启动的时候，关于在未来支持周期性检查点的工作还在进行中。数据结点使用本地文件系统来存储HDFS的数据。数据结点对HDFS的文件一无所知，它只是用一个个文件存储HDFS的每个数据块。数据结点并不在同一个目录中创建所有的文件，而是用一个启发式算法来确定每个目录的最佳文件个数，并适当的建立字目录。在同一个目录建立所有的文件不是最理想的，这是因为本地文件系统可能不支持在同一个目录放数目巨多的文件。当数据结点启动的时候，它会遍历本地文件系统，会产生一份HDFS数据块和本地文件对应关系的列表，并把这个报告发给名字结点：这就是块报告。6.通信协议HDFS的所有通信协议都是在TCP/IP协议上层分层的。客户去连接名字结点上一个可配置的TCP端口，使用“客户协议”与名字结点交互。数据结点和名字结点使用“数据结点协议”交互。一个远程过程调用(RPC)则封装了这两个协议。按照设计，名字结点永远不会启动任何的RPC，它只负责响应数据结点或客户发起的请求。7.健壮性HDFS的首要目的就是要保证数据的可靠性，甚至出错的时候也是。三个最常见的错误就是，名字结点或数据结点故障，和网络断开。7.1.数据磁盘故障，心跳和重复制每个数据结点都周期性的向名字结点发送心跳数据包。网络阻断可能会造成一些数据结点失去到名字结点的连接。名字结点通过心跳的丢失来检测这样的情况。名字结点会标记没有最近没有心跳的数据结点为宕机，并不转发给他们任何新的IO请求。任何注册在已宕机数据结点的数据对HDFS来说都是不在可用的了。数据结点的宕机会造成一些数据块的复制因子下降并低于指定值。名字结点会一直跟踪哪些数据块需要被复制，并在需要的时候开始复制。这样必要的北华大学分布式云计算（论文）重复制的引发可能有多种原因：数据结点不可用，一个复制品损坏，数据结点上某个磁盘损坏，某个文件复制因子被提升了。7.2机群的重配平HDFS的结构是和数据重配平方案相适应的。如果某个数据结点的剩余磁盘空间下降到某个极限，方案自动把数据从此数据结点移动到另一个结点。当出现对某个文件有很高的需求的时候，方案会动态增加更多的复制品，并平衡机群中的其他数据。这些数据配平方案还没有实现。7.3.数据完整性有种可能是从数据结点拿到的数据却是损坏的，这样的错误可能是由于存储设备错误，网络故障或者软件的BUG。HDFS的客户软件实施对HDFS文件内容的校验和检查。当一个客户创建HDFS文件，它先计算文件每个块的校验和，并存储到同命名空间下的隐藏文件里。当客户收到文件内容后，会检查各个数据结点取出的数据和相应的校验和相匹配。如果不匹配那么客户就选择其