并行计算机系统结构第1章

1.课程名称ParallelComputerArchitecture并行计算机系统结构并行计算机体系结构Architecturearchitecture英[ˈɑ:kitektʃə]美[ˈɑrkɪˌtɛktʃɚ]n.建筑学，建筑风格，体系结构，（总体、层次）结构计算机系统结构计算机体系结构建筑物的设计或式样,通常指一个系统的外貌1.课程名称ComputerArchitecture计算机系统结构计算机体系结构建筑物的设计或式样,通常指一个系统的外貌2.研究内容从外部来研究计算机系统使用者所看到的物理计算机的抽象编写出能够在机器上正确运行的程序所必须了解到的计算机属性5.与其他学科的交叉学科交叉：计算机组成、操作系统、汇编语言、数据结构、微计算机技术、计算机网络、……新内容：超标量处理机、超流水线处理机、VLIW处理机、向量处理机、并行处理机、多处理机、互连网络、……计算机系统结构正处于变革时期软件-系统结构-实现技术,两头发展快中间慢非冯计算机正兴起系统结构的发展时期已经到来1.1.1为什么要研究系统结构1.提高处理机运算速度：MIPS＝FzIPC其中:Fz为处理机的工作主频IPC(InstructionPerCycle)为每个时钟周期平均执行的指令条数提高IPC：依靠先进系统结构过去，几个或几十个周期完成一条指令现在，一个周期完成几条指令提高Fz：缩短门电路延迟，依靠技术进步流水线技术等，依靠先进系统结构从指令串行执行，到P4的20级流水线350300250200150100500198519851986198719881989199019911992199319941995DECAlpha••••••••••••••••••••SUN4IBMPower1MIPSR2000DECAlphaMIPSR3000HP900IBMPower2DECAlpha每年1.58倍每年1.35倍SPECint速度指标依靠技术进步性能每年提高35%先进系统结构对性能的贡献是技术进步的5倍2.计算机性能提高的几个阶段20世纪70年代末之前，大型机和小型机计算机性能每年提高25%~30%。20世纪80年代初，出现微处理机，依靠集成电路技术，性能每年提高35%20世纪80年中期，出现RISC技术、高级语言和操作系统等，性能每年提高50%1995年，先进系统结构对微处理器性能的贡献是单纯技术进步的5倍。3.近几年及将来，计算机性能按摩尔定理发展。4.计算机系统的设计者们要不断创新。1.1.2如何认识计算机系统1.虚拟计算机定义：从不同角度所看到的计算机系统的属性是不同的。主要观察角度包括：应用程序员系统程序员硬件设计人员对计算机系统的认识通常只需要在某一个层次上广义语言虚拟计算机解释或编译作用对象观察者虚拟计算机系统2.计算机系统的层次结构•计算机系统可分为7个层次•第3级至第6级由软件实现,称为虚拟机•从学科领域来划分：第0级和第1级属于计算机组成原理第2级属于计算机系统结构第3至第5级属于系统软件第6级属于应用软件•它们之间有交叉例如：第3级必须依赖第4级和第5级来实现计算机系统的层次结构第6级：应用程序第5级：高级语言第4级：汇编语言第3级：操作系统第2级：机器语言第1级：微程序第0级：硬联逻辑应用软件系统软件硬件软硬件分界应用语言第6级应用程序应用程序信息处理系统用户高级语言第5级高级语言解释程序编译程序可执行程序高级语言程序员汇编语言第4级汇编语言汇编程序可执行程序汇编语言程序员系统原语键盘命令第3级操作系统操作系统系统资源系统操作员指令系统第2级机器语言中央处理机目标程序机器语言程序员指令时序第1级微程序控制微程序控制寄存器逻辑逻辑设计员操作时序第0级硬联逻辑硬联逻辑逻辑线路硬件设计员3.透明性概念•定义：本来存在的事物或属性，从某种角度看似乎不存在•例如：CPU类型、型号、主存储器容量等对应用程序员透明对系统程序员、硬件设计人员等不透明•例如：浮点数表示、乘法指令对高级语言程序员、应用程序员透明对汇编语言程序员、机器语言程序员不透明•例如：数据总线宽度、微程序对汇编语言程序员、机器语言程序员透明对硬件设计人员、计算机维修人员不透明计算机系统结构的定义计算机系统结构定义一Amdahl于1964年在推出IBM360系列计算机时提出：程序员所看到的计算机系统的属性,即概念性结构和功能特性程序员：系统程序员（包括：汇编语言、机器语言、编译程序、操作系统）看到的：编写出能在机器上正确运行的程序所必须了解到的概念性结构IBM360系列计算机的概念性结构主存储器主存控制器ＣＰＵＩＯＰＩＯＰ打印机磁盘机卡片机磁带机终端•数据表示：硬件能够直接认别和处理的数据类型；•寻址技术：编址方式、寻址方式和定位方式等；•寄存器组织：操作数寄存器、变址寄存器、控制寄存器及专用寄存器的定义、数量和使用规则等；•指令系统：操作类型、格式，指令间的排序控制等；•中断系统：中断类型、中断级别和中断响应方式等；•存储系统：寻址空间、虚拟存储器、Cache存储器等；•处理机工作状态：定义和切换方式，如管态和目态等；•输入输出系统：数据交换方式、交换过程的控制等；•信息保护：信息保护方式和硬件对信息保护的支持等。功能特性指令系统及其执行模式2.计算机系统结构定义二研究软硬件功能分配和对软硬件界面的确定计算机系统由软件、硬件和固件组成，它们在功能上是同等的。同一种功能可以用硬件实现，也可以用软件或固件实现。不同的组成只是性能和价格不同,他们的系统结构是相同的。系列计算机概念：相同系统结构,不同组成和实现的一系列计算机系统。计算机组成技术1.课程名称ComputerOrganization计算机组成，计算机组织，计算机原理，计算机组成原理2.研究方法从内部研究计算机系统计算机组成是指计算机系统结构的逻辑实现。3.主要研究内容•确定数据通路的宽度；•确定各种操作对功能部件的共享程度；•确定专用的功能部件；•确定功能部件的并行度；•设计缓冲和排队策略；•设计控制机构；•确定采用何种可靠性技术。计算机实现技术计算机实现是指计算机组成的物理实现主要包括：处理机、主存储器等部件的物理结构；器件的集成度和速度；专用器件的设计；器件、模块、插件、底版的划分与连接；信号传输技术；电源、冷却及装配技术，制造工艺及技术等。随着技术、器件和应用的发展，三者之间的界限越来越模糊。冯·诺依曼结构计算机美籍匈牙利科学家冯·诺依曼最新提出程序存储的思想，并成功将其运用在计算机的设计之中，根据这一原理制造的计算机被称为冯·诺依曼结构计算机，世界上第一台冯·诺依曼式计算机是1949年研制的EDSAC，由于他对现代计算机技术的突出贡献，因此冯·诺依曼又被称为“计算机之父”。冯·诺依曼结构：计算机系统由硬件系统和软件系统两大部分组成。美藉匈牙利科学家冯·诺依曼结构（JohnvonNeumann）奠定了现代计算机的基本结构，它的基本结构特征是“共享数据和串行执行”的计算机模型。其特点是：1）使用单一的处理部件来完成计算、存储以及通信的工作。2）存储单元是定长的线性组织。3）存储空间的单元是直接寻址的。4）使用低级机器语言，指令通过操作码来完成简单的操作。5）对计算进行集中的顺序控制。6）计算机硬件系统由运算器、存储器、控制器、输入设备、输出设备五大部件组成并规定了它们的基本功能。7）彩二进制形式表示数据和指令。8）在执行程序和处理数据时必须将程序和数据道德从外存储器装入主存储器中，然后才能使计算机在工作时能够自动调整地从存储器中取出指令并加以执行。这就是存储程序概念的基本原理。冯·诺依曼结构VanNenmann基本思想于1936年～1946年期间形成，由冯·诺依曼等人于1946年提出输入设备输出设备运算器ALU控制器存储器非冯诺依曼结构的计算机•冯.诺依曼体系结构的局限严重束缚了现代计算机的进一步发展，而非数值处理应用领域对计算机性能的要求越来越高，这就亟待需要突破传统计算机体系结构的框架，寻求新的体系结构来解决实际应用问题。3.非冯计算机的发展什么是非冯计算机？非指令驱动，…从传统的指令驱动型改变为数据驱动型，出现了数据流机计算机。从传统的指令驱动型改变为需求驱动型，出现各种图归约计算机。处理非数值化信息的智能计算机，自然语言、声音、图形和图象处理,虚拟现实处理等第五代计算机，由推理机和知识库机等组成。目前，召开过多次专题国际会议。神经网络计算机，仿生计算机，…在体系结构方面已经有了重大的变化和改进，如并行计算机、数据流计算机以及量子计算机、DNA计算机等非冯计算机，它们部分或完全不同于传统的冯.诺依曼型计算机，很大程度上提高了计算机的计算性能。非冯诺依曼结构的计算机•冯·诺依曼体系结构-非诺依曼化•传统的冯·诺依曼型计算机从本质上讲是采取串行顺序处理的工作机制，即使有关数据巳经准备好，也必须逐条执行指令序列。而提高计算机性能的根本方向之一是并行处理。因此，近年来人们谋求突破传统冯·诺依曼体制的束缚，这种努力被称为非诺依曼化。对所谓非诺依曼化的探讨仍在争议中，一般认为它表现在以下三个方面的努力。•（1）在冯·诺依曼体制范畴内，对传统冯·诺依曼机进行改造，如采用多个处理部件形成流水处理，•依靠时间上的重叠提高处理效率；又如组成阵列机结构，形成单指令流多数据流，提高处理速度。这些方向已比较成熟，成为标准结构；•（2）用多个冯·诺依曼机组成多机系统，支持并行算法结构。这方面的研究目前比较活跃；•（3）从根本上改变冯·诺依曼机的控制流驱动方式。例如，采用数据流驱动工作方式的数据流计算机，只要数据已经准备好，有关的指令就可并行地执行。这是真正非诺依曼化的计算机，它为并行处理开辟了新的前景，但由于控制的复杂性，仍处于实验探索之中。非冯诺依曼结构的计算机•哈弗结构•特点：•使用两个独立的存储器模块，分别存储指令和数据，每个存储模块都不允许指令和数据并存，以便实现并行处理；•具有一条独立的地址总线和一条独立的数据总线，利用公用地址总线访问两个存储模块（程序存储模块和数据存储模块），公用数据总线则被用来完成程序存储模块或数据存储模块与CPU之间的数据传输；•两条总线由程序存储器和数据存储器分时共用•在典型情况下，完成一条指令需要3个步骤，即：取指令、指令译码和执行指令。从指令流的定时关系也可看出冯.诺曼结构与哈佛结构处理方式的差别。举一个最简单的对存储器进行读写操作的指令，指令1至指令3均为存、取数指令，对冯.诺曼结构处理器，由于取指令和存取数据要从同一个存储空间存取，经由同一总线传输，因而它们无法重叠执行，只有一个完成后再进行下一个。•如果采用哈佛结构处理以上同样的3条存取数指令，如下图所示，由于取指令和存取数据分别经由不同的存储空间和不同的总线，使得各条指令可以重叠执行，这样，也就克服了数据流传输的瓶颈，提高了运算速度。•哈佛结构强调了总的系统速度以及通讯和处理器配置方面的灵活性。•TI公司DSP采用的改进型哈佛结构其改进之处在于在数据总线和程序总线之间进行局部的交叉连接。这一改进允许数据存放在程序存储器中，并被算术运算指令直接使用，增强了芯片的灵活性。只要调度好两个独立的总线就可使处理能力达到最高，以实现全速运行。改进的哈佛结构还可使指令存储在高速缓存器中(Cache)，省去了从存储器中读取指令的时间，大大提高了运行速度。2.现代处理机对冯·诺依曼结构的改进不变的：存储程序改变的：存储器为中心,总线结构,分散控制从基于串行算法变为适应并行算法，出现了向量计算机，并行计算机、多处理机等流水线处理机，超标量处理机，超流水线处理机，超标量超流水线处理机数据库计算机和知识库计算机专用计算机，如FFT变换机、过程控制计算机为获得高可靠性而研制容错计算机功能分散化、专业化，出现了各种分布计算机、外围处理机、通信处理机等存储器为中心、分散控制系统总线IO总线……中央处理机（CPU）主存储器（MM）输入设备输出输出设备输出设备总线结构，分散控制总线：连接计算机各功能部件的连线和管理信息传输规则的逻辑电路称为总线。特点：在任何时刻，只