第4章扩展的宽带网络及其应用新技术4.1网格计算4.2网络存储4.1网格计算4.1.1网格与网格计算4.1.2网格系统的主要功能4.1.3网格计算的关键技术4.1.4网格计算的应用4.1.5网格体系结构4.1.6网格计算的发展现状与趋势4.1.1网格的概念网格(Grid)一词来源于人们熟悉的电力网,希望用户在使用网格解决问题时像使用电力网一样方便。网格是一个集成的计算与资源环境和基础设施,它把地理上广泛分布的计算资源、存储资源、网络资源、软件资源、信息资源等连成一个逻辑整体,然后像一台超级计算机一样为用户提供一体化的信息应用服务。网格又是构筑在因特网上的一组新兴技术,它将高速互联网络、计算机、大型数据库、传感器、远程设备等融为一体,为用户提供更多的资源、功能和服务。网格实现互联网络上所有资源的全面贯通。网格形式多种多样,如计算网格、数据网格、科学网格、存取网格、服务网格、知识网格、语义网格、地理网格、传感器网格、集群网格、校园网格、亿万量级网格和商品网格等。网格是一个开放、标准的系统。只要遵守网格规则,任何设备都可以加入网格。网格主要有以下特点。①虚拟性。资源对外提供的只是一个虚拟化的接口。②集成性。网格可以集成来自不同管理域、不同管理平台、具有不同能力的资源。③协商性。可以通过协商获取不同质量的服务和需求。④分布性。这是指网格的资源是分布的。⑤共享性。各方面的资源都可以进行共享。⑥自相似性。网格的局部和整体之间存在着一定的相似性。⑦动态性。资源动态增加和网格资源动态减少。⑧多样性。网格资源是异构和多样的。⑨自治性。拥有者对他的资源有自主的管理能力。⑩管理的多重性。对资源具有自主性的管理。所谓网格计算就是第三代因特网计算,是高性能的协同计算,是利用网络中一些闲置的处理能力来解决复杂科学计算的新型计算模式。其内容涉及资源的网格化、协调性以及融合性。可以根据需要重新分配计算机资源,使用高层计算能力。网格计算又是以元数据、构件框架、智能体、网格公共信息协议和网格计算协议为主要突破点对网格计算进行的研究。网格计算是一种分布式计算。4.1.2网格系统的主要功能①管理等级结构。定义网格系统组织方式。②通信服务。网格支持多种通信方式,③信息服务。需要提供一种能迅速、可靠地获取网格结构、资源、服务和状态的机制,④名称服务。网格系统使用名字引用各种资源。⑤分布式文件系统。该系统能提供一致的全局名字空间。⑥安全及授权。⑦系统状态和容错。⑧资源管理和调度。⑨计算付费和资源交易。⑩编程工具。网格应提供多种工具。用户图形界面和管理图形界面。图4-1网格系统的基本功能模块示意图4.1.3网格计算的关键技术(1)网格节点网格节点就是网格计算资源的提供者。(2)宽带网络系统(3)资源管理和任务调度工具(4)监测工具(5)应用层的可视化工具(6)分布对象技术(7)互操作技术(8)地理标记语言共享技术4.1.4网格计算的应用1.在科学计算方面的应用(1)分布式超级计算。(2)密集型计算。(3)高吞吐率计算。(4)更广泛的资源贸易。(1)在资源共享方面。(2)在协作学习环境的构建方面。(3)教育科学研究方面。2.网格计算在教育中的应用包括研究与开发、商业智能和分析、工程和产品设计、企业优化。IT资源有可能访问以前不能访问的特殊设备。可以简化运行环境及其管理并提高工作效率。建立、重建和改变一个安全资源共享域的各种参数。3.网格计算在当今业务中的应用提供远程访问仪器设备的手段。4.分布式仪器系统远程沉浸是一种特殊的网络化虚拟现实环境。这个环境可以是对现实或历史的逼真反映,可以是对高性能计算结果或数据库的可视化,也可以是纯粹虚构的空间。“沉浸”的意思是人可以完全融入其中,各地的参与者通过网络聚在同一个虚拟空间里,既可以随意漫游,又可以相互沟通,还可以与虚拟环境交互,使之发生改变。5.远程沉浸网格将使分布在世界各地的应用程序和各种信息,能够进行无缝融合和沟通。6.信息集成网格技术可以整合和管理分散在各部门的信息化资源。7.电子政务8.个人娱乐4.1.5网格体系结构1.网格的三层结构网格可以简单划分为分布式资源、网格系统、网格用户三个层次。图4-2网格的三层结构网格系统应用层──网络用户物理层──分布式资源图4-3五层沙漏结构及其与TCP/IP网络协议的对比2.层次化的网格体系结构构造层的基本功能就是控制局部的资源,包括查询机制(资源的结构和状态等信息)、控制服务质量的资源管理能力等,并向上提供访问这些资源的接口。(1)构造层连接层的基本功能就是实现相互的通信。它定义了核心的通信和认证协议。(2)连接层资源层的主要功能就是实现对单个资源的共享。(3)资源层汇聚层的主要功能是协调多种资源的共享。(4)汇聚层网格层次结构又分为面向协议的层次结构和面向服务的层次结构两种。(5)应用层4.1.6网格计算的发展现状与趋势1.标准化现状与趋势网格的全球标准化组织有GlobalGridForum、研究模型驱动体系结构的OMG、致力于网络服务与语义等标准化团体。大多数网格项目都是基于GlobusTookit所提供的协议及服务建设的。Globus项目组和IBM共同倡议了一个全新的网格标准──开放式网格服务体系结构(OGSA,OpenGridServicesArchitecture)。2003年1月,符合OGSA规范的GlobusToolkit3.0(Alpha版)已经在第一届Globusworld会议上发布。国外对网格的研究始于20世纪90年代中期。美国是网格研究起步最早的国家,多家研究机构制定了很多网格研究计划,如美国国家科学基金会资助的TeraGrid、NCSA、NPACI,美国国防部的HPCMP网格、全球信息网格(GIG),美国宇航管理局的IPG,美国政府资助的大型物理实验网格(GriPhyN)及美国能源部的ASCIGrid、国家技术网格(NTG)等计划。2.国外网格计算的发展现状TeraGrid将连接位于5个不同地方的超级计算机,达到每秒20万亿次的计算能力,并能存储和处理近1千万亿字节的数据,连接网格的专用网络带宽将达到40Gbit/s。GriPhyN计划建立每秒千万亿次级别的计算平台,用于数据密集型计算。英国政府宣布投资1亿英镑,用以研发英国国家网格。欧洲启动了一系列网格开发计划,日本主要在进行国家研究网格计划、生物网格计划。联想计算机公司研制的峰值运算速度每秒5.324万亿次的国家网格主节点“深腾6800”超级计算机于2003年11月研制成功。采用网格技术实现230万亿次计算速度的曙光5000A于2008年11月落户上海超级计算中心。3.中国网格计算的发展现状据美国预测,网格技术在2020年将产生一个年产值为20万亿美元的大工业。未来的网格计算主要有三大发展趋势,即标准化、大型化和技术融合化。网格计算将从标准化向更广域、多学科渗透,技术将进一步融合,从前沿技术逐步走向实用化、大众化。4.网格计算的前景4.2网络存储4.2.1服务器附加存储结构4.2.2网络附加存储结构4.2.3存储区域网络存储结构4.2.4基于IP的存储网络4.2.5网络存储的新技术4.2.6网络存储的发展与展望最早是“网络硬盘”,网络存储实现的功能是把用户的文件存储在通过因特网可以访问到的网络服务器上或者与服务器相连的专门设备上,用户只需要连接到因特网上就可以自由存取自己账号中或者其他用户共享出来的文件。而存储网络是一种全新的存储体系结构。它支持网络协议和存储设备协议,采用面向网络的存储体系结构,使数据处理和数据存储分离,把信息智能从服务器迁移到网络中的各个设备上。网络存储系统的特点如下。①设计贴近用户。②操作简单。③网络存储实现了与电子邮件系统的结合。④网络存储服务支持用户级的共享。目前有以下4种网络存储共享技术。①服务器附加存储。②网络附加存储。③存储区域网络。④基于IP的存储网络。4.2.1服务器附加存储结构SAS也称为直接附加存储系统被定义为直接连接在各种服务器或客户端扩展接口下的数据存储设备。I/O请求直接发送到存储设备。这种存储结构是将数据存储在各服务器的磁盘族或磁盘阵列等存储设备中。图4-6SAS的存储结构服务器存储设备LAN服务器存储设备用户用户用户4.2.2网络附加存储结构NAS是直接挂网的存储器,即是一个网络的附加存储设备,允许客户机与存储设备之间进行直接的数据访问,通过TCP/IP进行通信,以文件I/O方式进行数据传输。图4-7NAS的存储结构文件服务器存储设备主服务器存储设备LAN用户用户用户NAS存储系统的设计和实现具有以下①实现简单。②由于数据的存储与处理相分离。③部件拥有一个在整个网络中的惟一的地址。④NAS设备不依赖通用的操作系统,而是采用了瘦服务器技术。⑤NAS是一种成本较低、易于安装、易于管理、易于扩展、使用性能和可靠性均较高的资源存储和共享解决方案。4.2.3存储区域网络存储结构SAN是一种通过光纤集线器、光纤路由器、光纤交换机等连接设备将磁盘阵列、磁带等存储设备与相关服务器连接起来的一个集中式管理的高速存储专用子网。SAN由3个基本的组件构成:接口、连接设备。这3个组件再加上附加的存储设备、存储管理软件和独立的SAN服务器就构成一个SAN系统。1.问题的提出2.SAN的结构图4-8SAN的结构终端终端终端终端…LAN…SAN客户机服务器存储器…①SAN使用FC调节技术来优化服务器和存储器之间的数据块传输,实现了数据块的高密度传输,节省了带宽。②在SAN中,确保了设备连接的可靠和高效,提高了容错度。既具有SCSI高速的优势,又具有以太网网络构筑的灵活性,既允许更多连接,又使服务器与存储器之间的距离可以延伸得很长,最长达150km。3.SAN的特点③SAN的管理是集中而且高效的。④将存储与主机的联系断开,可以动态地从集中存储器分配存储量。⑤高可用性和应用软件故障恢复环境可以确保以较少的开销。FC-SAN即光纤通路存储区域网络是一个由FC协议组成的存储区域网络。FC可实现处理器与多个海量存储设备间的并行通信,允许的传输速度的理论值达到4000Mbit/s;服务器系统可以通过电缆远程连接,最大可跨越10km的距离。FC存储区域网络的带宽可达到100Mbit/s,FC允许镜像配置。4.FC-SANFC本身具有的高传输速率使得SAN网络的传输速率可以达到200Mbit/s或者更高。SAN的设备仅能做到与连接在SAN上的服务器间的直接访问,而在LAN上的客户端是无法直接访问SAN的设备的,必须通过服务器间接访问。FC的硬件设备价格昂贵。表4-1DAS、NAS和SAN之间的比较5.DAS、NAS、SAN比较DASNASSAN数据被存放在多台不同的服务器上,难以访问数据被整合并存放在相同的存储器上,易于访问数据被整合并存放在相同或不同的存储器上,但提供统一的用户访问视图,易于访问难以升级,容量有限制即插即用,容量无限制即插即用,需配置,容量无限制不支持不同操作系统访问支持不同操作系统访问不支持不同操作系统访问服务器认证网络协议认证服务器认证服务器集中配置数据网络集中配置数据集中配置数据直接连接在服务器上直接连接在网络上,独立于文件服务器与网络服务器、存储产品、网络产品、软件以及服务相关无I/O优化文件I/O优化块I/O优化性能一般高性能极高性能服务器组成部分LAN组成部分独立的网络通过文件系统访问文件通过以太网协议访问文件通过FC协议访问文件易于安装自维护、易于安装、即插即用需要长时间的设计和安装成本低廉成本低廉成本高昂难以维护易于维护难以维护难以备份/恢复易于备份/恢复易于备份/恢复4.2.4基于IP的存储网络IP存储网络可以说是结合了NAS和SAN两者的优点:一方面它采用TCP/IP作为网络协议,使得它具有NAS易于访问的特点;另一方面它又有独立专用的存储网络结构。IP网络存储是指在IP网络中实现类似SANFC的“块级”数据处理,通过用GbE/10吉比特以太网等网络技术构建网络存储。对于基于IPSAN的计算机,数据均可集中存