并行计算导论教学设计前言随着计算机性能的不断提高，对于科学计算和数据处理的要求也越来越高。
传统的串行计算方式已经无法满足当前的需求，因此出现了并行计算的概念。
并行计算指的是利用多个处理器或计算机同时处理同一个问题，从而大大加快计算速度。
在现代科技发展的背景下，学习并行计算成为了计算机领域中不可或缺的一个部分。
本篇文档将介绍并行计算导论的教学设计。
教学目标本门课的教学目标主要包括以下几个方面：1.掌握并行计算的基本概念，了解并行计算的发展历程；2.学习并行计算的各种模型和算法，了解它们的适用范围及各自的优缺点；3.掌握并行计算的编程模式和技巧，能够使用一些常见的并行编程框架进行开发；4.学会并行计算在现实生活中的应用，了解它对各种领域带来的改变；5.完成一个小型的并行计算项目，体会并行计算带来的优越性能。
教学内容为了让学生能够更好地达到教学目标，我们将对并行计算导论的教学内容进行以下分类：理论基础1.并行计算的发展历程；2.并行计算的基本概念和术语；3.并行计算中的一些特殊问题，如并发、同步、通信等；4.并行计算的各种模型，如SPMD、MPMD等。
并行算法1.各种并行算法的概述；2.并行算法的适用范围及各自的优缺点；3.常见的并行算法设计范式，如分治法、动态规划等；4.基于MPI和OpenMP的并行算法实现。
并行编程1.并行编程语言的基础知识，如C、C++、Fortran等；2.并行编程框架和库的概述，如MPI、OpenMP、CUDA、OpenCL等；3.MPI和OpenMP的编程模式和技巧，如进程通信、线程创建、同步机制、调度等；4.CUDA和OpenCL的编程方式和优化技巧，如流水线、共享内存、纹理内存等。
应用案例1.并行计算在各个领域的应用，如人工智能、金融、气象预报等；2.并行计算的实际性能对比，如串行计算、多核并行计算、GPU加速等；3.具体案例分析，如并行矩阵乘法、快速傅里叶变换、并行排序等。
北京科技大学《并行计算导论》实验报告题目：矩阵向量乘法的并行化学院计算机与通信工程学院班级计1301 1303 1304班指导教师李建江时间 2016年3月22日至3月31日一、任务描述基于MPI和OpenMP，分别实现矩阵向量乘法的并行化。
对实现的并行程序进行正确性测试和性能测试，并对测试结果进行分析。
二、矩阵向量乘法串行算法描述与分析1. 串行算法描述在线性代数中，矩阵和向量的乘法是将每行矩阵的每个元素乘以向量中的每个元素，得到一个新的向量，要求矩阵是N*N阶，向量是N阶，这样相乘后，得到一个新的N阶向量。
利用串行算法，设置循环，让矩阵中的每一行的元素乘以完向量的每个元素后得到一个数值再进行下一行的乘法，一直到最后一行的乘法结束，得到新的向量。
2. 空间复杂度分析对于N阶的矩阵向量乘法，A*b=x，定义数据类型为long，则需要的存储空间为（N^2+2*N）*4 Byte 。
（矩阵数：N^2+向量数N+结果N）3. 时间复杂度分析对于N阶的矩阵向量乘法，A*b=x，需要串行算法执行的次数为：N^2*(N-1)三、矩阵向量乘法的并行化（一）基于MPI的矩阵向量的并行化1. 并行策略（含图示）因为矩阵乘以向量，每行的乘法是相互独立的，所以可以把N阶矩阵按行平均分配给各个进程，让每个进程分别处理分配给它的数据块。
2. 并行算法描述先为程序指定阶数，然后用随机数生成N阶方阵和向量，采用静态均匀负载，为每个处理器分配相同数量的数组元素，做到负载相对比较均衡（由于可能存在0元素，使得负载相对有些偏差）。
然后把N阶方阵和向量显示出来，做MPI静态并行计算，然后将得出的结果显示出来3. 空间复杂度分析设进程数为n，数据类型为long，则N阶矩阵向量乘法的所需的空间为：N^2+n*N+N，（矩阵空间N^2+n倍的b向量空间n*N+结果N）4. 时间复杂度分析假设负载均衡，假设最小的划分块大于等于矩阵的一行，由于将行分块划分给各个进程，所以整体的时间是1/n倍的串行算法的时间复杂度，即1/n*N^2*(N-1)（二）基于OpenMP的矩阵向量的并行化1. 并行策略（含图示）与MPI并行策略类似，把矩阵按行分块，与向量相乘，但是可以采用更为灵活的池技术动态调用，更加充分利用了计算资源。
