高性能计算并行编程技术.pdf

高性能计算并行编程技术 —— MPI并行程序设计 都志辉 编著 李三立 审 陈渝 刘鹏 校 I 内容提要 本书介绍目前最常见的并行程序— MPI并行程序的设计方法 它适合高校三四年级本科 生 非计算机专业研究生作为教材和教学自学参考书 也适合于广大的并行计算 高性能计 算 用户作为自学参考书使用 对于有FORTRAN和C编程经验的人员 都可以阅读并掌握 本书的内容 首先介绍了并行程序设计的基础 提供给读者进行并行程序设计所需要的基本知识 然 后介绍了MPI 的基本功能 从简单的例子入手 告诉读者MPI程序设计的基本过程和框架 这一部分是具有C或/FORTRAN 串行程序设计经验的人员很容易理解和接受的 接下来介绍 MPI程序设计的高级特征 是已经掌握了MPI基本程序设计的人员进一步编写简洁 高效的 MPI程序 使用各种高级和复杂的MPI功能所需要的 最后一部分介绍了MPI 的最新发展和 扩充MPI-2 主要包括三个部分 动态进程管理 远程存储访问和并行文件读写 本书包括了MPI-1 的全部调用和MPI-2 的关键扩充部分的调用 并附以大量的图表和示 例性程序 对程序的关键部分给出了讲解或注释 读者若能将例子和对MPI调用的讲解结合 起来学习 会取得更好的效果 本书的目的 不仅是教给读者如何去编写从简单到复杂的MPI并行程序 更重要的是 希望在学习本书之后 在读者以后解决问题的过程中 能够树立并行求解的概念 使并行方 法真正成为广大应用人员和程序开发员手中的重要工具 II 目录 序IX 前言 X 程序列表XI 图列表XIII 表格列表XVI 第一部分 并行程序设计基础 1 第1章 并行计算机2 1.1 并行计算机的分类 2 1.1.1 指令与数据2 1.1.2 存储方式3 1.2 物理问题在并行机上的求解 4 1.3 小结 5 第2章 并行编程模型与并行语言6 2.1 并行编程模型 6 2.2 并行语言 7 2.3 小结 8 第3章 并行算法9 3.1 并行算法分类 9 3.2 并行算法的设计 9 3.3 小结 11 第二部分 基本的MPI 并行程序设计12 第4 章MPI简介 13 4.1 什么是MPI13 4.2 MPI 的目的13 4.3 MPI 的产生14 4.4 MPI 的语言绑定14 4.5 目前主要的MPI实现15 4.6 小结15 第5章第一个MPI程序 16 5.1 MPI实现的 Hello World! ”16 5.1.1 用FORTRAN77+MPI实现 16 5.1.2 用C+MPI实现 18 5.2 MPI程序的一些惯例21 5.3 小结22 第6章六个接口构成的MPI子集23 6.1 子集介绍23 6.1.1 MPI调用的参数说明23 III 6.1.2 MPI初始化25 6.1.3 MPI结束25 6.1.4 当前进程标识25