并行计算与多核多线程技术
课程报告
专业 ____________________
班级 ____________________
学号 ____________________
姓名 ____________________
成绩 ____________________
年 月 日
课程报告要求
手写内容：设计目的、意义，设计分析，方案分析，功能模块实现，最终结果分析，设计体会等。
允许打印内容：设计原理图等图形、图片，电路图，源程序。硬件类的设计，要有最终设计的照片图；软件类设计，要有各个功能模块实现的界面图、输入输出界面图等。
评 价
理论基础
实践效果（正确度/加速比）
难度
工作量
独立性
目 录
1. 设计目的、意义（功能描述）
2. 方案分析（解决方案）
3. 设计分析
3.1 串行算法设计
3.2 并行算法设计
3.3 理论加速比分析
4. 功能模块实现与最终结果分析
4.1 基于OpenMP的并行算法实现
4.1.1 主要功能模块与实现方法 4.1.2 实验加速比分析
4.2 基于MPI的并行算法实现
4.2.1 主要功能模块与实现方法
4.2.2 实验加速比分析
4.3 基于Java的并行算法实现
4.3.1 主要功能模块与实现方法
4.3.2 实验加速比分析
4.4 基于Windows API的并行算法实现
4.4.1 主要功能模块与实现方法
4.4.2 实验加速比分析
4.5 基于.net的并行算法实现
4.5.1 主要功能模块与实现方法
4.5.2 实验加速比分析
4.6 基于Linux的并行算法实现（选作）
4.6.1 主要功能模块与实现方法
4.6.2 实验加速比分析
4.7 基于Hadoop/MapReduce的并行算法实现（选作）
4.7.1 主要功能模块与实现方法
4.7.2 实验加速比分析
4.8 并行计算技术在实际系统中的应用
并⾏计算教程简介
并⾏计算教程简介
⽬录
抽象的
并⾏计算概述
概念和术语
并⾏计算机内存架构
并⾏编程模型
设计并⾏程序
平⾏范例
抽象的
这是“ Livermore Computing Getting Started”讲习班中的第⼀篇教程。本⽂仅打算简要介绍并⾏计算的⼴泛⽽⼴泛的主题，作为其后续教程的简介。这样，它仅涵盖并⾏计算
的基础知识，并且适合刚熟悉该主题并计划参加本研讨会中的⼀个或多个其他教程的⼈员。它不打算深⼊介绍并⾏编程，因为这将需要更多的时间。本教程⾸先讨论并⾏计算-它是什
么以及如何使⽤它，然后讨论与并⾏计算相关的概念和术语。然后探讨并⾏存储器体系结构和编程模型的主题。这些主题之后，就与设计和运⾏并⾏程序有关的许多复杂问题进⾏了⼀
系列实际讨论。本教程以如何并⾏化简单串⾏程序的⼏个⽰例结束。包括参考资料以供进⼀步的⾃学。
概述
什么是并⾏计算？
串⾏计算
传统上，已经编写了⽤于*串⾏*计算的软件：
⼀个问题被分解成⼀系列离散的指令
指令依次执⾏
在单个处理器上执⾏任何时候都只能执⾏⼀条指令例如：
并⾏计算
从最简单的意义上讲，*并⾏计算*是同时使⽤多个计算资源来解决⼀个计算问题：
⼀个问题被分解成可以同时解决的离散部分
每个部分都进⼀步细分为⼀系列说明
每个部分的指令在不同的处理器上同时执⾏
采⽤了总体控制/协调机制例如：
计算问题应该能够：
分解成可以同时解决的分散⼯作；
随时执⾏多个程序指令；
与使⽤单个计算资源相⽐，使⽤多个计算资源可以在更短的时间内解决问题。
计算资源通常为：
⼀台具有多个处理器/核⼼的计算机
通过⽹络连接的任意数量的此类计算机
并⾏计算机
从硬件⾓度来看，当今⼏乎所有独⽴计算机都是并⾏的：
多个功能单元（L1缓存，L2缓存，分⽀，预取，解码，浮点，图形处理（GPU），整数等）
多个执⾏单元/核⼼多个硬件线程
具有18个内核（PU）和16个L2⾼速缓存单元（L2）的IBM BG / Q计算芯⽚⽹络连接多台独⽴计算机（节点）以组成更⼤的并⾏计算机群集。
并行计算讲义
燕山大学课程讲义
并行计算导论
授课人：郭栋梁学时：32学时
其中实验课：8学时三级项目：16学时
第1章引言
1.1概述
单处理器计算机即将成为过时的概念.我们需要考虑如下因素来着手改进提高计算机
的性能:
（1）单纯依靠单处理器很难提升现有计算机的性能.即使有一个性能十分强大的单处理器，其功耗也让人无法接受.想要提升计算机的性能，更加可行的方法是同时使用多个简单处理器，它所能达到的性能可能是现有单处理器计算机性能的几千倍。
（2）观察结果显示，除非使用并行处理技术，一个程序在一台型号更新的单处理器计算机上的运行速度，可能比在旧的计算机上的运行速度更慢。能依照给定算法检测出程序中的并行结构的编程工具还有待开发。
此算法需要能够检测出变ja之间的依赖关系是否规则;而且不管这些依赖是否规则，此算法都能在保证程序正确性的前提下，通过将程序中的一些子任务并行化来加速程序的执行。
（3）提升未来的计算机性能的关键就在于并行程序的开发，这涉及各个层面的工作:算法、程序开发、操作系统、编译器及硬件设备。
（4）并行计算除了要考虑到参与并行计算的处理器的数量，还应该考虑处理器与处理器、处理器与内存之间的通信。最终计算性能的提升既依赖于算法能够提升的空间，更依赖于处理器执行算法的效率。而通信性能的提升则依赖于处理器对数据的供应和提取的速度。
（5）内存系统的速度始终比处理器慢，而且由于一次只能进行单个字的读写操作，内存系统的带宽也有限制。（6）内存系统的速度始终比处理器慢，而且由于一次只能进行单个字的读写操作，内存系统的带宽也有限制。
本书内容主要涉及并行算法与为了实现这些算法而设计的硬件结构。硬件和软件是相互影响的，任何软件的最终运行环境是由处理器组成的底层硬件设备和相应的操作系统组成.我们在本章开始的部分会介绍一些概念，之后再来讨论为了实现这些概念有哪些方法和限制.
1.2自动并行编程
对于算法在软件中的实现过程我们都很熟悉。在编程并不需要了解目标计算机系统的具体细节，因为编译器会处理这些细节.但是在编程和调试时依旧沿用着在单一央处理器(CPU)上顺序处理的模式.从另一方面讲，为了实现并行算法，硬件和软件之间的相互联系需要比我们想象的更加密切。图1.1展示了基于软件和硬件、利用并行计算机来运行程序的主要步骤和层次。从最顶层开始，第5层是指应用层，在这一层里描述的是需要并行计算平台实现的应用和问题。对应所需的输入和输出的格式也在这层进行定义。某些输人和输出((I/O)接口的描述还需要考虑数据存储的位置和时间相关性。这一层的结果会被更低一层采纳以便指导并行算法的开发工作。
并行计算 II课程详细信息
课程号 00110860 学分 3
英文名称 Parallel Computation II
先修课程 计算方法、C语言
中文简介 本课程的主要目的是教授使用分布式并行计算机，基于MPI的并行程序设计方法和在科学与工程计算上的应用，特别是在偏微分方程数值解上的应用。课程的重点在于技术上研究，而不是研究并行计算的理论和算法本身。我们期待修完本课程的学生能够顺利在超级计算机上对不同的实际问题设计程序进行计算。
英文简介 We will discuss the techniques in developing MPI based parallel
programming used on clusters with distributed memory, including the
application of the techniques on scientific and engineering
computing, especially on numerical methods of partial differential
equations. Our focus is on the techniques, instead of the study of
the theory of parallel computing or the parallel algorithm. The
students is expected to be equipped with the capacity to program
on super computers for practical problem in his/her research.
开课院系 数学科学学院
通选课领域
是否属于艺术与美育 否
平台课性质
平台课类型
授课语言 中文
教材 Introduction to High-Performance Scientific Computing,Victor
