高级体系结构-1

1AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering高性能计算机体系结构乔百友（83681250)[e-mail]东北大学信息学院计算机系统研究所2AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering高性能计算机体系结构参考教材•ComputerArchitecture:AQuantitativeApproach,HennessyandPatterson,机械工业•高等计算机系统结构并行性可扩展性可编程性清华大学出版社•ParallelComputerArchitecture--AHardware/softwareApproach机械工业•计算机系统结构张晨曦等，高等教育出版社，2008•并行计算机系统结构与可扩展计算，古志民、孙贤和清华大学出版社2009•并行计算机体系结构，陈国良等著，高等教育出版社，20023AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering主要内容•1.高性能计算与高性能计算机•2.指令流水技术基础(复习)•3.指令级并行性•4.指令的动态调度与分支预测•5.互连网络：拓扑结构，寻径技术，•6.并行处理基础：模型，性能，自动并行化•7.共享存储器多处理机：cache一致性，同步•8.大规模并行处理：主动消息，多线程4AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering41.高性能计算的意义2.高性能计算的发展与现状3.高性能计算的典型应用4.高性能计算的挑战与机遇高性能计算与高性能计算机5AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering国家高性能计算中心（合肥）52020/1/171.高性能计算的意义1.1高性能计算的内在含义1.2高性能计算的应用需求1.3高性能计算的战略地位6AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering61.高性能计算的意义（1）1.1高性能计算的内在含义•计算和计算科学–所有的学科都转向定量化和精确化–三大科学：理论科学、实验科学和计算科学•计算科学是一个交叉学科,用计算的方法来解决应用问题。•适用于理论模型复杂或尚未建立、实验费用昂贵或无法进行。•计算物理、计算化学、计算生物学、计算地质学、计算气象学。•并行计算是跟上摩尔定律的重要手段。7AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering1.高性能计算的意义（2）高性能计算HPC（HighPerformanceCompute）泛指量大、快速、高效的运算高性能计算---并行计算并行计算(ParallelComputing）高端计算(High-endParallelComputing)高性能计算(HighPerformanceComputing)超级计算(SuperComputing)8AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering81.高性能计算的意义（3）高性能计算主要包括：•向量计算•并行计算•分布式计算•网络计算•网格计算•云计算高性能计算并行计算分布式计算向量计算网格计算云计算9AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineeringNortheasternUniversitySep.6,2012MossoGoogleAppEngineRailsOneSalesforceGmailGliffyJoyentAmazoneWebSvcsNirvanixXcalibreAkamaiPaaSSaaSIaaSCloudComputing云计算是并行计算(ParallelComputing)、分布式计算(DistributedComputing)和网格计算(GridComputing)的发展，或者说是这些计算机科学概念的商业实现云计算是虚拟化(Virtualization)、效用计算(UtilityComputing)、IaaS(基础设施即服务)、PaaS(平台即服务)、SaaS(软件即服务)等概念混合演进并跃升的结果10AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering101.高性能计算的意义（4）•高性能计算的量纲前缀缩写基幂含意数值KiloK103Thousand千MegaM106Million兆，百万GigaG109Billion千兆，10亿TeraT1012Trillion垓，万亿PetaP1015Quadrillion千万亿ExaE1018Quitillion百亿亿Flops：每秒所执行的浮点运算次数(floating-pointoperationspersecond)目前的PC机运算速度通常在GFlops量级，高性能计算机运算速度则在TFlops至PFlops量级。11AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering111.高性能计算的意义（5）1.2高性能计算的应用需求•应用需求–计算密集型应用（Computing-intensive)：•大型科学工程计算，数值模拟等。•应用领域：石油、气象、CAD、核能、制药、环境监测分析、系统仿真等。–数据密集型应用（Data-intensive)：•数字图书馆，数据仓库，数据挖掘，计算可视化等。•应用领域：图书馆、银行、证券、税务、决策支持系统等。–通信密集型应用（Network-intensive)：•协同工作，网格计算，遥控和远程诊断等。•应用领域：网站、信息中心、搜索引擎、电信、流媒体等。12AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering121.高性能计算的意义（6）•千万亿次超级计算机的应用需求应用领域应用需求计算能力需求存储容量需求生物医学蛋白质电子态的计算药物发明中的筛选过程蛋白质折叠100Tflops800Tflops1Pflops30TB200TB1PB航空航天制造发动机燃烧模拟和机翼设计模拟500Tflops100TB气候环境短期天气预报长期天气预报局部突发性灾难预报（如洪水、海啸）20Tflops200Tflops1Pflops10TB100TB500TB核能领域完全等离子分析（包括电子结构分析）核武器数值模拟天然气燃烧500Tflops1Pflops1Pflops1PB1PB1PB纳米技术复合材料的结构分析和功能预测新材料发明200Tflops1Pflops400TB2PB天体物理学超新星三维模拟1Pflops1PB国防和国家安全密码破译先进武器模拟1Pflops1Pflops1PB1PB13AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering•天气预报1990年10次台风登陆，福建、浙江两省损失79亿元，死亡950余人。天气预报模式为非线性偏微分方程，预报台风暴雨过程，计算量为1014—1016次浮点运算，需要10GFlops—100GFlops的巨型机。用途：局部灾害性天气预报。14AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering•石油工业地震勘探资料处理油藏数值模拟测井资料处理地震勘探由数据采集、数据处理和资料解释三阶段组成。目前采用的三维地震勘探比较精确的反映地下情况，但数据量大，处理周期长。100平方公里的三维勘探面积，道距25米，60次覆盖，6秒长记录，2毫秒采样，一共采集2.881010个数据，约为116GB。15AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering叠加后数据为4.8108个数据。用二维叠加深度偏移方法精确的产生地下深度图像，需要进行251012FLOP，采用100MFLOPs机器计算250天，1GFLOPs机计算25天，10GFLOPs机器35分。考虑到机器持续速度常常是峰值速度的10-30%，所以需要100GFlops的机器。CrayT932/32约为60GFLOPs。16AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering•航空航天研究三维翼型对飞机性能的影响。数值模拟用时间相关法解Navier-Stoker方程，网格分点为1204050，需内存160MB，6亿计算机上解12小时，如果在数分钟内完成设计，则需要千亿次计算机。17AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering•核武器核爆炸数值模拟，推断出不同结构与不同条件下核装置的能量释放效应。压力：几百万大气压温度：几千万摄氏度能量在秒级内释放出来。设计一个核武器型号，从模型规律、调整各种参数到优选，需计算成百上千次核试验。LosAlamos实验室要求计算一个模型的上限为8-10小时。18AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering千万次机上算椭球程序的计算模型需要40-60CPU小时。二维计算，每方向上网格点数取100，二维计算是一维的200倍，三维是一维的33000倍。若每维设1000网格点，则三维计算是一维的几十万倍之多。此时对主存储器容量要数十、数百亿字单元（64位）。另外还有I/O能力的要求，可视化图形输出计算空气动力学：千亿次/秒（1011）图像处理：百亿次/秒（1010）AI：万亿次/秒（1012）19AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering20AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering21AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering22AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering23AdvancedComputerArchitectureTheSchoolofInformationScienceandEngineering231.高性能计算的意义（7）1.3高性能计算的战略地位•从战略高度上讲–高性能计算技术是一个国家综合国力和科技创新力的重要标志，各个国家竞相争夺的战略制高点。–高性能高计算是支撑国家实力持续发展的关键技术之一。–高性能计算国防安全、高科技发展和国民经济建设中占有重要的战略地位。–重大挑战问题：飞机设计、药物设计、全球气候预测、人类基