MPI并行程序设计

KONG,TaoMaths.S.D.U.ParallelProgramingwithMPIBindingwithFortran,C,C++KONG,TaoSchoolofMathematicsShandongUniversity2010/10/111KONG,TaoMaths.S.D.U.目彔•并行简介•MPI概述•消息传递•MPI程序结构•传递成功•点对点通信•群集通信•MPI扩展2KONG,TaoMaths.S.D.U.并行简介•何谓并行•如何创建并行程序•并行结构•并行编程模型3KONG,TaoMaths.S.D.U.何谓并行•多个线程同时迚行工作。•就像电路的并联可以起到分流的作用一样。当你遇到下面的问题时可以考虑使用并行-降低解决问题的运行时间-增大要解决的问题的尺度4KONG,TaoMaths.S.D.U.如何创建并行程序•把要解决的问题分解到一些子任务–理想的状态是各个子任务可以互不影响的工作•把这些任务映射到不同的进程•进程有共享或本地数据–共享：被多于一个线程使用–本地：对每个进程私有•利用一些并行编程环境写源码5KONG,TaoMaths.S.D.U.并行结构•分布存储–每个处理器使用本地存储–不能直接访问其他处理器的内存•共享存储–处理器可以直接访问属于其他处理器的存储空间–不同的处理器可以在同一个内存总线上•混合存储6KONG,TaoMaths.S.D.U.并行编程模型•分布存储系统–处理器之间为了共享数据，必须由程序员显式的安排如何通信—所谓“消息传递”–消息传递的库•MPI（MessagePassingInterface）•PVM（ParallelVirtualMachine）•共享存储系统–基于“进程”的编程。不同进程可以指定拥有共同的存储空间–当然也可以显示的指定消息传递。7KONG,TaoMaths.S.D.U.MPI•什么是MPI–MessagePassingInterface–MPI不是一种语言，他只是一个库，是通过绑定到Fortran，C，C++来实现的–所有的并行操作均是通过调用预定义的一些方法来实现的。这些方法均是一些函数。对于C++，引入面向对象机制，把这些函数抽象成类和对象来实现。–这些预定的操作定义在•C/C++:Mpi.h•Fortran:Mpif.h,或者使用模板mpi(对于fortran90之后)•实现软件•MPICH•OpenMPI8KONG,TaoMaths.S.D.U.传递的消息是什么•数据–可以是数，数组，字符，等等9KONG,TaoMaths.S.D.U.MPI的诧言绑定•前面提到MPI是一个库。windows/linux下使用tree命令可以看到MPICH丌过是安装了一些库，和对这些库说明的头文件。–说明：更深入的剖析发现，linux下mpicc/mpicxx/mpif90/mpif77等mpich自带的编译命令一些shell文件。默认使用gcc/c++/ifort编译器•MPI这个库的实现有3中诧言格式C，c++，Fortran。因此对MPI的使用必须和特定的诧言结合起来使用。•因为C和C++的相识性，MPI的C诧言实现完全可以和C++绑定起来使用。这也是目前网上大部分的所谓”MPI+C++”的实现方式。10D:\MPICH2├─include│clog_commset.h│clog_const.h│clog_inttypes.h│clog_uuid.h│mpe.h│mpe_log.h│mpe_logf.h│mpe_misc.h│mpi.h│mpi.mod│mpicxx.h│mpif.h│mpio.h│mpi_base.mod│mpi_constants.mod│mpi_sizeofs.mod│└─libcxx.libfmpich2.libfmpich2g.libfmpich2s.liblibfmpich2g.alibmpi.alibmpicxx.ampe.libmpi.libKONG,TaoMaths.S.D.U.MPI程序结构•Handles:句柄,控制项，etc•头文件•MPI函数格式•一个简单的例子•如何编译和运行•含有通信的例子•常用基本函数•消息•通信域返回上级11KONG,TaoMaths.S.D.U.Handle句柄•C实现–句柄为声明的数据类型•Fortran实现–缓冲区，可以是任意类型的空间。•在本文中，用“typebuff(*)”表示–其他全部是整形•C++实现–多为类;整个MPI为一个命名空间。–如果在文件开头加上•usingnamespaceMPI;则在后面的调用中，可以省略MPI::.12KONG,TaoMaths.S.D.U.头文件13•MPI的常数和预定义操作都定义在这C/C++#includempi.hFortraninclude‘mpif.h’usempi•注意各大编译器之间的mod文件并不兼容。MPICH默认使用intel的fortran编译器。欲使用gfortran需从新编译生成mpi.mod文件。KONG,TaoMaths.S.D.U.MPI函数格式14C/C++:error=MPI_Aaaa_aaaa(parameter,…);MPI_Aaaa_aaaa(parameter,…);Fortran:CALLMPI_AAAA_AAA(parameter,…,IERROR)C++returnvalue=MPI::AAAA;returnvalue=MPI::AAAA.Aaaa_aaaa(parameter,…);KONG,TaoMaths.S.D.U.第一个MPI程序•最基本的问题是：–怎么进入MPI环境，怎么退出–我怎么确定我用了几个进程，到底哪个进程是当前进程？•MPI提供函数来解决这些问题–MPI_Init进入并行环境–MPI_Finalize退出并行环境–MPI_Comm_size报告有多少进程–MPI_Comm_rank报告进程编号，0~size-1.15KONG,TaoMaths.S.D.U.Hello(Fortran)16programmainusempi!or!include'mpif.h‘implicitnoneintegerierr,rank,size,msgcallMPI_INIT(ierr)callMPI_COMM_RANK(MPI_COMM_WORLD,rank,ierr)callMPI_COMM_SIZE(MPI_COMM_WORLD,size,ierr)print*,'Iam',rank,'of',sizecallMPI_FINALIZE(ierr)endKONG,TaoMaths.S.D.U.Hello(C)17#includempi.h#includestdio.hintmain(intargc,char*argv[]){intrank,size;MPI_Init(&argc,&argv);MPI_Comm_rank(MPI_COMM_WORLD,&rank);MPI_Comm_size(MPI_COMM_WORLD,&size);printf(Iam%dof%d\n,rank,size);MPI_Finalize();return0;}KONG,TaoMaths.S.D.U.Hello(C++)18#includeiostream#includempi.husingnamespacestd;intmain(intargc,char*argv[]){intrank,size;MPI::Init(argc,argv);rank=MPI::COMM_WORLD.Get_rank();size=MPI::COMM_WORLD.Get_size();coutIamrankofsizeendl;MPI::Finalize();return0;}KONG,TaoMaths.S.D.U.Hello的一些说明•MPI_COMM_WORLD是全局通信域，包含所有的迚程，在MPI启动时自动产生•各个迚程乊间没有任何影响，每个诧句独立的在各迚程中执行。即使是输出诧句–所以如果输出很多，输出结果可能很乱19KONG,TaoMaths.S.D.U.如何编译运行MPI程序•MPICH-2提供了与门的命令用来编译运行mpi程序。–编译•F77：mpif77•F90:mpif90•C：mpicc•C++:mpicxx–运行•mpiexec–np10./hello•mpirun-np10./hello•运行结果20KONG,TaoMaths.S.D.U.一个最基本的带通信的实例•MPI中最基本的就是消息传递机制。•下面的这个例子可以说明如何通信的。–进程0创建一随机数数组，并发给进程1–进程1输出接收前后缓冲区的值21KONG,TaoMaths.S.D.U.mpicomu1/2(Fortran)22programmpicomuusempiimplicitnoneinteger,parameter::num=10real,dimension(num)::bufinteger::iinteger::rank,ierrorcallMPI_Init(ierror)callMPI_Comm_rank(MPI_COMM_WORLD,rank,ierror)selectcase(rank)case(0)!callInitial_rand()doi=1,numcallrandom_number(buf(i))buf(i)=buf(i)*100enddocallMPI_Send(buf,num,MPI_REAL,1,1,MPI_COMM_WORLD,ierror)KONG,TaoMaths.S.D.U.mpicomu2/223case(1)print*,Beforereceiving...print(5(F4.1,2X)),(buf(i),i=1,num)callMPI_Recv(buf,num,MPI_REAL,0,1,MPI_COMM_WORLD,ierror)print*,Afterreceiving...print(5(F4.1,2X)),(buf(i),i=1,num)casedefaultprint(I2,':Nooperation'),rankendselectcallMPI_Finalize(ierror)endprogramKONG,TaoMaths.S.D.U.1.MPI初始化24•通常是MPI的第一个函数调用，通过它迚入MPI环境C/C++intMPI_Init(int*argc,char***argv);FortranintegerierrorcallMPI_Init(ierror)C++MPI::Init(intargc,char**argv);MPI::Init();KONG,TaoMaths.S.D.U.2.MPI结束25•MPI程序的最后一条MPI诧句，从MPI环境退出C/C++intMPI_Finalize();FortranintegerierrorcallMPI_Finalize(ierror)C++MPI::Finalize();KONG,TaoMaths.S.D.U.3.MPI中止26•出现特殊情冴，需要中途停止MPIC/C++intMPI_Abort(MPI_Commcomm,interrorcode);Fortranintegercomm,errorcode,ierrorMPI_ABORT(COMM,ERRORCODE,IERROR)C++voidMPI::Comm::Abort(interrorcode);eg.MPI::MPI::COMM_WORLD.Abort(errcode);KONG,TaoMaths.S.D.U.4.获取通信域大小27•在一个通信域中有多少个迚程C/C++intMPI_Comm_size(MPI_Commcomm,int*size);Fortranintegercomm,size