02_3内存系统对性能的影响

内存系统对性能的影响内存系统对性能的影响对于很多应用而言，瓶颈在于内存系统，而不是CPU内存系统的性能包括两个方面：延迟和带宽Latencyisthetimefromtheissueofamemoryrequesttothetimethedataisavailableattheprocessor.Bandwidthistherateatwhichdatacanbepumpedtotheprocessorbythememorysystem.延迟和带宽的区别考虑消防龙头的情形。如果打开消防龙头后2秒水才从消防水管的尽头流出，那么这个系统的延迟就是2秒。当水开始流出后，如果水管1秒钟能流出5加仑的水，那么这个水管的“带宽”就是5加仑/秒。如果想立刻扑灭火灾，那么更重要是减少延迟的时间。如果是希望扑灭更大的火，那么需要更高的带宽。内存延迟示例考虑某一处理器以1GHz（1纳秒时钟）运行，与之相连的DRAM有100纳秒的延迟（没有高速缓存）。假设处理器有两个multiply-add部件，在每1纳秒的周期内能执行4条指令。处理器的峰值是4GFLOPS。由于内存延迟是100个周期，并且块大小为一个字（word），每次处理内存访问请求时，处理器必须要等待100个周期，才能够获得数据。使用高速缓存改善延迟高速缓存是处理器与DRAM之间的更小但更快的内存单元。这种内存是低延迟高带宽的存储器。如果某块数据被重复使用，高速缓存就能减少内存系统的有效延迟由高速缓存提供的数据份额称为高速缓存命中率(hitratio)高速缓存命中率严重影响内存受限程序的性能。高速缓存缓存的效果对相同数据项的重复引用相当于“时间本地性(temporallocality)”对于高速缓存的性能来说，数据的重复使用至关重要。内存带宽的影响内存带宽由内存总线的带宽和内存部件决定。•可以通过增加内存块的大小来提高带宽。底层系统在L时间单位内(L为系统的延迟)存取B单位的数据(B为块大小)需要注意的是:增加块的大小，并不能改变系统的延迟