异构计算（Heterogeneous computing）
摘要
异构计算（Heterogeneous computing）技术从80年代中期产生，由于它能经济有效地获取高性能计算能力、可扩展性好、计算资源利用率高、发展潜力巨大，目前已成为并行/分布计算领域中的研究热点之一。本文主要介绍了CPU+GPU基础知识及其异构系统体系结构（CUDA）和基于OpenCL的异构系统，并且总结了两种结构的特点，从而对异构计算有了更深的理解。
关键词：异构计算CUDA OpenCL
1、引言
异构计算主要是指使用不同类型指令集和体系架构的计算单元组成系统的计算方式。常见的计算单元类别包括CPU、GPU等协处理器、DSP、ASIC、FPGA 等。我们常说的并行计算正是异构计算中的重要组成部分异构计算近年来得到更多关注，主要是因为通过提升CPU时钟频率和内核数量而提高计算能力的传统方式遇到了散热和能耗瓶颈。而与此同时，GPU等专用计算单元虽然工作频率较低，具有更多的内核数和并行计算能力，总体性能/芯片面积的比和性能/功耗比都很高，却远远没有得到充分利用。CPU的设计让其比较擅长于处理不规则数据结构和不可预测的存取模式，以及递归算法、分支密集型代码和单线程程序。这类程序任务拥有复杂的指令调度、循环、分支、逻辑判断以及执行等步骤。而GPU擅于处理规则数据结构和可预测存取模式。而APU的设计理念则正是让CPU和GPU完美合作，集合两者的长处，用异构计算来达到整体性能的最佳化。目前，已经有50款领先的应用能够利用AMD APU进行加速，而后续的应用也将陆续到来——异构计算普及的一刻应该是近在咫尺了。
1.1 CPU和GPU的本质区别
(1) CPU特点
a) CPU的目标是快速执行单一指令流；
b) CPU将其用于乱序执行、寄存器重命名、分支预测以及巨大的cache上，
这些设计都是为了加速单一线程的执行速度
c) CPU利用cache来降低内存访问延迟
d) CPU通过大量的cache和分支预测来降低延迟，这些机制消耗了大量的晶体管的电能；
e) CPU每个核心支持1~2个线程；
f) CPU切换线程的代价是数百个时钟周期；
g) CPU通过SIMD（单指令多数据）来处理矢量数据；
h)Intel的CPU没有集成内存控制器
（2）GPU特点
a) GPU的目标是快速执行大量的并行指令流。
b)GPU将晶体管用于处理器阵列、多线程管理、共享内存、内存控制器，这些设计并不着眼于提高单一线程的执行速度，而是为了使GPU可以同时执行成千上万的线程，实现线程间通信，并提供极高的内存带宽。
c) GPU使用cache来放大内存带宽
d) GPU通过同时运行上千个线程来隐藏延迟，等待内存访问的线程会被切换掉，e) GPU切换线程不耗时间。
f)对于支持CUDA的GPU，每个流处理器可以同时处理1024个线程。
g) GPU切换线程的代价是0，事实上GPU通常每个时钟周期都切换线程。
h) GPU则使用SIMT（单指令多线程），SIMT的好处是无需开发者费力把数据凑成合适的矢量长度，并且SIMT允许每个线程有不同的分支。
j) 支持CUDA的GPU集成有8个内存控制器，GPU的内存带宽通常是CPU 的十倍
1.2 GPU计算模型
内核是执行模型的核心，能在设备上执行。当一个内核执行之前，需要指定一个N-维的范围（NDRange）。一个NDRange是一个一维、二维或三维的索引空间。还需要指定全局工作节点的数目，工作组中节点的数目。如图NDRange 所示，全局工作节点的范围为{12, 12}，工作组的节点范围为{4, 4}，总共有9个工作组。如果定义向量为1024维，特别地，我们可以定义全局工作节点为1024，工作组中节点为128，则总共有8个组。定义工作组主要是为有些仅需在组内交
换数据的程序提供方便。当然工作节点数目的多少要受到设备的限制。如果一个设备有1024个处理节点，则1024维的向量，每个节点计算一次就能完成。而如果一个设备仅有128个处理节点，那么每个节点需要计算8次。合理设置节点数目，工作组数目能提高程序的并行度。
图1.GPU计算模型
CPU的长项是整数计算，GPU的优势则是浮点计算。对于整机性能而言，CPU和GPU都是性能的保障，合理的搭配才是重中之重，才能给用户带来最强的综合性能。
1.3异构计算分类及发展方向
目前的趋势，增加并行的性能，而不是时钟频率。我们的重点是在一个节点，几乎是充分利用指令级并行性。这意味着，提高性能，必须来自多芯片，多核或多上下文并行。Flynn的分类法在硬件定义了四个级别的并行：（1）单指令单数据（SISD）（2）单指令多数据流（SIMD）（3）多指令单数据（MISD）（4）多指令多数据（MIMD）
此外，两个细分MIMD单程序多数据（SPMD），以及多个程序多数据（MPMD），我们使用这些术语来描述架构。
图2.架构
单芯片CBEA，如图所示（a），由一个传统的CPU核心和8个SIMD加速器核心。这是一个非常灵活的架构，每个核心可以运行单独MPMD时尚和沟通方案，快速通过片上总线。其主要设计标准得到了最大限度降低消耗的功率。图中（b）显示了多线程SIMD加速器结合一个标准的多核CPU核心的GPU。GPU 具有优异的带宽和计算性能，对很少或根本没有同步运行的SPMD方案进行了优化。它是专为高性能的图形，其中的数据吞吐量是关键。最后，图中（c）显示了FPGA逻辑块阵列组成和一个标准的多核心CPU的组合。FPGA的片上，也可以纳入正规的CPU核心，使得它本身就是一个异构芯片。FPGA可视为用户定义的应用程序的专用集成电路（ASIC）的可重构。他们提供充分确定性的表现，是专为高吞吐量，例如，在电信方面的应用。
目前异构并行计算向着以下几个方向发展：（1）集群计算。这是传统高性能计算的领域。但是今天高性能计算已经演变成了异构并行计算的一部分，越来越多的高性能计算集群使用GPU、MIC、FPGA等。（2）单机计算。推动单机计算向异构并行计算发展的主要动力是游戏、计算机辅助设计等，而主要表现是GPU+CPU的异构计算。（3）移动计算。近几年发展表明，人们对手机的需求比对PC的需求更大。目前几乎所有的移动芯片解决方案都是异构的，除了有CPU、GPU之外，还有视频编解码单元、音频处理单元。倾向于把更多工作内容转移到手机上，但是为了保证续航时间，移动处理器的设计一开始就不是以高性能为目标，这使得要在移动处理器上获取高性能是比较困难的。（4）嵌入式计算。在一些恶劣工作环境下，只有DSP和FPGA能够满足要求。
2、异构计算系统
2.1 CPU+GPU 异构系统体系结构
计算机系统一般都配置了CPU 和GPU，GPU传统上只负责图形渲染，大部分的仸务都由CPU 来完成。随着图形渲染的数据量越来越大、计算也越来越复杂，GPU 的可编程性和幵行性也随之增强。目前，主流GPU 的计算能力、存储带宽、性价比与同期的CPU 相比更具竞争力。下面以支持CUDA(Computing Unified Device Architecture) 的GPU为例来说明CPU+GPU 异构计算系统的体系结构。支持CUDA 的GPU 通常由数个线程处理器簇。TPC(Thread Processor Cluster)组成，如：NVIDIA GeForce 9800 GX2 由2个TPC组成双核GPU；NVIDIA GeForce 9800 GTX 只含有一个TPC。每个TPC 由若干流多处理器SM(Streaming Multi-processor)组成，一个SM 包含8个线程处理器TP(threaded processor)和一定大小的共享存储空间(Shared Memory)，另外，GPU还提供了全局的存储器(Global Memory or Video Memory)和一定数量的全局只读的纹理缓存(Texture Cache)和常缓存(Constant Cache)。GPU与CPU间的数据传输通过PCIE 通道来完成，该数据传输通道可能成为性能瓶颈。CPU+GPU 异构系统的整体结构如下图所示。
图3.CPU+GPU异构系统体系结构
2.1.2 CUDA执行模型
CUDA 源程序由运行于host（CPU）上的控制程序和运行于device（GPU）上的计算核心(kernel)两部分组成。每一个kernel 由一组相同大小的线程块（thread block）来幵行执行，同一线程块里面的线程通过共享存储空间来协作完成计算，线程块间是相互独立的。运行时，每一个线程块会被分派到一个流多处理器SM上运行，它们共享大小为16KB 的共享存储空间。为了管理运行各种不同程序的数百个线程，SM 采用了一种称为SIMT（single instruction multiple thread，SIMT）的新架构。SIMT 单元以32 个幵行线程为一组来创建、管理、调度和执行线程，这样的线程组称为warp 块。多个warp 块可以组成一个线程块，一个线程块将会分派到一个SM 上，SM 会将各线程映射到一个TP核心上，各TP 使用自己的指令地址和寄存器状态独立执行。构成SIMT warp块的各个线程在同一个程序地址一起启动，也可随意分支、独立执行。为一个SM 指定了一个或多个要执行的线程块时，它会将其分成warp 块，幵由SIMT单元迚行调度。将块分割为warp 块的方法总是相同的，每个warp 块都包含连续的线程，递增线程ID，第一个warp 块中包含线程0。每収出一条指令时，SIMT单元都会选择一个已准备好执行的warp 块，幵将下一条指令収送到该warp 块的活动线程，其执行调度过程示意如下图所示。
图4.CUDA执行模型
2.1.3 协作框架
由于PCIE 数据传输通道会成为CPU+GPU 异构系统的性能瓶颈，因此，保证通信传输开销取得最优解的情况下，更有利于优化通信开销取得期望解，GPU与CPU如何协作完成求解问题，最大限度较少数据在CPU 与GPU之间的频繁传输显得尤为重要。为此参考文献之处写作框架如下：
图5.CPU+GPU协作框架
2.2.3 实验评估分析
为了验证本文提出的协作框架的有效性和高效性，选择了计算密集型应用图
像置乱变换作为测试用例。实验环境配置如下：
(1) Intel Core2 Quad 2.33Ghz ，4GB内存，Microsoft Visual Studio 2005
(2) GeForce GTX280，1GB 显存，16KB Shared Memory，CUDA toolkit 和SDK 2.0，NVIDIA Driver for Microsoft Windows XP(177.98)
图6.运行时间比较
2.3 基于OpenCL的异构系统并行编程
使用GPU进行通用计算是近些年的热点研究领域。传统的通用计算主要依靠图形API，这给不熟悉图形应用的用户带来了极大的不便。为了克服该缺陷，出现了NVIDIA CUDA和ATI Stream等编程模型，给编程带来了极大的灵活性。但是在程序移植性方面，NVIDIA GP和AMD GPU互不兼容。并且今天的计算机系统通常包含高度并行的CPU、GPU和其它类型的处理器，让软件开发人员充分合理的利用这些异构处理平台的优势变得非常重要。
针对上述问题，OpenCL一种新的并行计算技术出现，使用它可以调用计算机内全部计算资源，包括CPU、GPU和其它处理器，为软件开发人员能够方便高效的利用异构处理平台、充分挖掘计算机中所有计算设备的性能潜力提供了充分保障。用OpenCL包含一个用来协调异构处理器间并行计算的API，和一个基于ISOC99跨平台的编程语言，且能与OpenGL、OpenGL ES和其它图形类API 高效互通，具有跨平台、兼容性好等特点，极大地方便了软件开发人员的编程工
作，将大大地推动并行计算的发展。在诸如分子模拟、流体模拟、碰撞模拟、生物应用以及电信、金融、证券数据分析、医疗等各种领域都将具有良好的应用前景。本章节以OpenCL的架构、软件框架及实现原理等为基础，对OpenCL进行描述，并将OpenCL与CUDA等通用计算技术进行对比，突出OpenCL的优越性。
2.3.1 OpenCL架构
（1）平台架构
该模型描述内部单元之间的关系，如图１所示。主机可以是个人计算机或超级计算机。设备可以是CPU、GPU、DSP或其它处理器。每个OpenCL设备包含若干计算单元，每个计算单元又由若干处理单元组成。
图7.平台模型
OpenCL通过平台实现主机与设备间的交互操作。主机管理着整个平台上的所有计算资源，所有OpenCL应用程序都是从主机端启动并在主机端结束的。应用程序运行时由主机提交命令，在设备上的处理单元中执行计算。每个计算单元内所有的处理单元都会执行相同的一套指令程。每个处理单元以单指令多数据SIMD或单程序多数据SPMD模式运行指令流。
（2）执行模型
OpenCL执行两类程序：内核程序和主机程序；前者由若干个OpenCL设备执行，后者由主机执行。OpenCL通过主机程序定义上下文并创建一个被称为命
令队列的数据结构来管理内核程序的执行。在命令队列中，内核程序可顺序执行也可乱序执行。
每当主机提交内核程序到设备上执行时，系统便会创建一个Ｎ维（N可取1,2,3）的索引空间NDRange。如下图所示。内核程序将索引空间中的每一点用一个工作项（work-item）来表示，将若干个工作项划分成一个工作组（work group）。在一个计算单元内可运行同一工作组中的工作项，并且该组内的工作可以并发执行在多个处理单元上。
图8.执行模型索引空间
（3）内存模型
设备上有４块存储区域可以提供给工作项进行访问：
（a）全局内存：所有工作项对其中的任意数据都可以读写，容量较大，但访问延迟较高。
（b）常数内存：全局内存的一部分，但工作项对其中的任意数据只能进行读操作。
（c）局部内存：对特定工作组可见，该工作组中所有工作项可以对其中的任意数据进行读写操作。局部内存通常位于片上，访问速度较快，但容量有限。（d）私有内存：该区域中的数据只对单独的工作项可见。内存模型如下图所示。
图9.内存模型
一个kernal既不能访问主机内存也不能动态分配全局内存和常数内存，所有的内存都是由主机进行管理。下表描述了内核与主机对内存区域的分配以及访问情况。
（4）编程模型
数据并行和任务并行是OpenCL可以支持的两种并行编程模型，同时两者的混合模型也得到支持。通常情况下，OpenCL采用的首要模型是数据并行，而对多核CPU主要采用任务并行。在数据并行编程模型中，一系列的指令会作用到内存对象的多个元素上。严格来说，数据并行要求内存对象单元与工作项保持一对一的映射，而在实际应用中，并不要求严格按照这种方式。在数据并行编程模型中，OpenCL又提供了一种分级方式，有两种方法：显式分级模型和隐式分级模型；前者要求开发人员指出工作项的总数和工作项所属的工作组；而后者仅需要开发人员定义工作项的总数，对于工作项的划分则根据OpenCL的实现来管
理。在任务并行编程模型上，每个工作项都相当于在一个单一的计算单元内，该单元内只有单一工作组，该工作组只有该工作项本身在执行。
2.3.2 OpenCL软件架构
OpenCL软件框架包含三部分：OpenCL平台层、OpenCL运行时和OpenCL 编译器。如下图所示。在OpenCL平台层上，开发人员可以查询系统中的平台数目并选定运行平台，在指定的平台上选择必要的计算设备并对它们进行初始化，然后可以建立上下文，并创建命令队列。执行内核程序、读、写及复制缓冲区和同步操作等都是通过命令队列中的命令实现的。一个命令队列和一个OpenCL设备是一对一的关系。在OpenCL运行时中，开发人员建立内核实例，并将其映射到正确的内存空间中，接着在命令队列中排队执行内核。OpenCL编译器负责编译运行在设备上的程序，并创建可执行程序。
图10.OpenCL软件架构
2.4 总结
根据下表可以看出，两者采用了不同的开发语言：
(1)CUDA采用的是CUDA C作为开发语言，是一种类Ｃ的编程语言，它包含对Ｃ语言的最小扩展集和一个运行时库，编写的文件由NVCC编译器编译。
CUDA C对C语言的扩展集引入了变量类型限定符、函数类型限定符等，
(2)OpenCL采用的是基于ISO C99的OpenCL C语言，也是一种类C的编程语言。但OpenCL C引入了一些函数限定符、变量限定符，并且支持C语言中原有的一些数据类型，还增加了一些新的数据类型如ｈａｌｆ类型、内建的矢量数据类型等，OpenCL C还提供了丰富的内建函数，其中有些内建函数名和Ｃ语言的库函数相同，只是实现有所不同。OpenCL C为开发者提供的是统一的编程语言，适合在各种处理器上实现通用计算，并且程序移植性好。
表1.CUDA与OpenCL术语对比
表2.CUDA与OpenCL特点对比
3、异构计算的典型应用
异构计算并不神秘，目前已渗透各个领域，不仅是PC领域，也包括了手持移动设备领域、行业领域，甚至是云计算、分布式计算领域。事实上，异构计算至少在应用端（前台）并不像它的名字这样生涩，很多应用里面，都有异构计算的身影。小到网页及视频加速，大到DNA计算、蛋白质计算、气象运算，都能和异构计算搭上关系。但都有一定的限制，如_global_函数类型限定符用于声明内核函数，只能在设备上执行，从主机调用。
3.1 AMD视频稳定技术
视频是和大家息息相关高频应用。而AMD、英特尔和NVIDIA在视频领域都有GPU加速/解码/转码技术——这一点大家都知道了。但还有些技术可能大家还不了解，比如图像稳定技术。
我们时常遇到抖动的视频，这种抖动可能源于拍摄者的手不稳，也可能是因为长焦拍摄。无论如何，AMD通过异构计算拿出了解决方案：2011年中，AMD 宣布了“Steady Video”技术，可以实时对抖动画面进行稳定化处理。不过由于缺乏播放软件的支持，该技术一直是“只闻其声，不见其形”，真正的应用并不多。而在AFDS 2012上，这一技术的升级版再度出击——与去年不同的是，如今，你使用APU平台笔记本，抑或是使用带有AMD独显，就能实实在在地感受到这一技术带来的良好特性。
YouTube视频在线播放目前已经能够一键开启Steady Video技术（绝大部分和主流浏览器都支持），而且，这种技术甚至已经能够在Windows Media Player 上实现！
我们在最新的A10-4600M APU笔记本上进行了实测（Win 7系统），以佳能SX30 IS拍摄.mov格式的视频。实测中我们发现，只要视频初期存在抖动，在用Windows Media Player进行播放时，Steady Video功能就会自动开启——这时，在播放界面的右下角会短暂出现Steady Video的图标，说明该功能正在启用。而我们用35倍光学变焦拍摄的视频，其图像稳定的效果非常显著！
Steady Video是一个很典型的异构计算应用，因为它并非完全采用GPU而解放CPU资源，而是将实时的视频图像处理任务进行了智能分工，分别交给CPU 和GPU共同完成。
3.2 人脸识别
人脸识别是生物识别这个大范畴中的一类，目前广泛地运用在日常的娱乐生活中，相机拍照、摄像头人脸识别登录，甚至是目前很火的摄像头动作感应游戏，都是基于人脸识别系统的。那么，人脸识别怎么会和异构计算扯上关系的呢？
人脸识别系统后台有面部模型，而其识别工作方式可能是这样的（不同软件会有区别）：先把画面分成若干区域，大家可理解为一个区域对应一个识别框。然后，针对识别框进行识别和判定。每个识别框不是完全独立的，而是有大量重复区域。也就是说，整个画面会被分成海量的区域（识别框）。工作量如此大的“重复简单劳动”，让CPU来运算就很头疼了——因为它得一个一个地（特指单核CPU）比对、判定，就像跑马拉松；而GPU的核非常多，可同时对多个识别框进行比对和判定，效率大大提升。
或许有人会说：CPU速度快，可以弥补数量的不足。但人脸识别绝非图示那么简单。举例来说，如果识别框的大小设定不对（如下图），就无法正常识别到人脸。那么在完成一次全画面识别后，需让识别框变大点再从头开始——这样看来，就是恐怖的工作量了。一张1920×1080分辨率的静态图片若经多次识别框大小调整并最终找到人脸，识别（框）总量大概为4百万个！如果是动态视频（等同于人脸跟踪），每秒的运算量还要翻几十倍！很显然，这类工作是GPU的专长。同时，GPU还会引入新的算法，会将画面先分为若干独立区域，利用面部模型先排除掉完全无人脸特征的区域，然后对剩下的区域进行并行计算（识别），效率可大幅提升。
3.3星云计算
星云计算，这个词对于咱普通人可能觉得有些陌生，只知道通过各种太空望远镜和卫星拍摄的星云图、星系图好漂亮！不过宇宙中有数不清的星星，一个星系可能就有上万亿颗星星（银河系有400亿颗），而目前探知的星系就有1250亿个……
如果天文学家要演示和模拟星球的运行和分布，将一个星系图线性放大到星球图，会是多大的工作量呢!？很显然，内核不多的CPU干这个活儿是难以想象的。拥有上千流处理器的GPU干起来效率就高多了。通过GPU的加速，可以实现多至数百万个运算星体的的处理工作，图像缩放时可达60帧/秒，观看者完全
感觉不到停顿。
当然，如果纯粹是GPU运算,CPU就闲着了，所以，如果能够动态结合CPU 极高的频率和GPU的并行运算能力，效率就能得到最大的提升。在这个应用中，节能不是第一要素，而是在固定的投入下发挥出最大工作效率，这也是异构计算的目的之一。
4、总结
通过收集相关文献，根据综述的相关线索，基本清晰异构计算的系统结构，以及其原理，达到了本次大作业的目的。
1.什么是边缘计算？ 在IIoT的背景下，“边缘”是指靠近数据源的计算基础设施，例如工业机器（例如风力涡轮机，磁共振（MR）扫描仪，海底防喷器）），工业控制器如SCADA系统和时间序列数据库汇总来自各种设备和传感器的数据。这些设备通常远离云中可用的集中式计算。 边缘计算是在靠近物或数据源头的网络边缘侧，融合网络、计算、存储、应用核心能力的开放平台。边缘计算与云计算互相协同，共同助力各行各业的数字化转型。它就近提供智能互联服务，满足行业在数字化变革过程中对实时业务、业务智能、数据聚合与互操作、安全与隐私保护等方面的关键需求。 到目前为止，边缘计算的作用主要用于摄取，存储，过滤和发送数据到云系统。然而，我们正处于一个时间点，这些计算系统正在包装更多的计算，存储和分析功能，以消耗并对机器位置的数据采取行动。这种能力对于工业组织来说将是非常有价值的 - 这是不可或缺的。 2.这对工业带来的价值 行业权威人士已经计算出，数以千计的连接事物会从不同的来源产生大量的数据。根据国际电信联盟电信标准分局ITU-T的研究报告，到2020年，每个人每秒将产生的数据，IoT可穿戴设备的出货量将达到亿。IDC也发布了相关预测，到2018年，50%的物联网网络将面临网络带宽的限制，40%的数据需要在网络边缘侧分析、处理与储存，到2025年，这一数字将超过50%。管理咨询公司麦肯锡公司估计，到2025年，工业物联网（IIoT）将创造价值万亿的市场规模。工业物联网将思想和机器结合在一起，将人们与加速数字产业转型的机器数据相结合。 通过将大数据，高级分析和机器学习应用于运营，工业可以减少计划外停机时间，提高资产性能，降低维护成本，并为从机床数据中获取未开发价值的新业务模式开拓潜力。 过去几年来，工业组织已经开始将云计算融入业务，从大量数据中获取洞察力，帮助实现关键业务成果，包括减少意外停机，提高生产效率，降低能耗等。云计算仍然通过工业物联网来实现新的性能水平发挥关键作用，因为它需要大量的计算能力来有效地管理来自机器的庞大数据量。 但是随着更多的计算，存储和分析能力被捆绑到更靠近数据源的较小设备中，即工业机器 - 边缘计算将有助于边缘处理实现工业物联网的承诺。 虽然这个概念不是新的，但是有几个关键的驱动力使它成为今天更可行的现实：·计算和传感器的成本继续下滑， ·在较小尺寸的设备（如网关或传感器集线器）中执行的更多计算能力， ·来自机器和/或环境的日益增长的数据（例如天气或市场定价）， ·现代机器学习与分析。 这些因素有助于公司将大量数据转化为具有洞察力和智慧的行动。 对于工业组织来说，这种技术在以下用例中将变得至关重要： ·低/间歇连接（如远程位置） o将数据传输到云的带宽和相关的高成本 o低延迟，例如机器洞察和启动之间的闭环相互作用（即在机器上采取动作）
2014年《并行计算系统》复习题 （15分）给出五种并行计算机体系结构的名称，并分别画出其典型结构。 ①并行向量处理机（PVP） ②对称多机系统（SMP） ③大规模并行处理机（MPP） ④分布式共享存储器多机系统（DSM） ⑤工作站机群（COW） （10分）给出五种典型的访存模型，并分别简要描述其特点。 ①均匀访存模型（UMA）： 物理存储器被所有处理机均匀共享 所有处理机访存时间相同 适于通用的或分时的应用程序类型 ②非均匀访存模型（NUMA）： 是所有处理机的本地存储器的集合 访问本地LM的访存时间较短 访问远程LM的访存时间较长 ③Cache一致性非均匀访存模型（CC-NUMA）： DSM结构 ④全局Cache访存模型（COMA）： 是NUMA的一种特例，是采用各处理机的Cache组成的全局地址空间 远程Cache的访问是由Cache目录支持的 ⑤非远程访存模型（NORMA）： 在分布式存储器多机系统中，如果所有存储器都是专用的，而且只能被本地存储机访问，则这种访问模型称为NORAM 绝大多数的NUMA支持NORAM 在DSM中，NORAM的特性被隐匿的 3. （15分）对于如下的静态互连网络，给出其网络直径、节点的度数、对剖宽度，说明该网络是否是一个对称网络。 网络直径：8 节点的度数：2 对剖宽度：2 该网络是一个对称网络 4. （15分）设一个计算任务，在一个处理机上执行需10个小时完成，其中可并行化的部分为9个小时，不可并行化的部分为1个小时。问： （1）该程序的串行比例因子是多少，并行比例因子是多少？ 串行比例因子：1/10
并行比例因子:9/10 如果有10个处理机并行执行该程序，可达到的加速比是多少？ 10/(9/10 + 1) = 5.263 （3）如果有20个处理机并行执行该程序，可达到的加速比是多少？ 10/(9/20 + 1)= 6.897 （15分）什么是并行计算系统的可扩放性？可放性包括哪些方面？可扩放性研究的目的是什么？ 一个计算机系统（硬件、软件、算法、程序等）被称为可扩放的，是指其性能随处理机数目的增加而按比例提高。例如，工作负载能力和加速比都可随处理机的数目的增加而增加。可扩放性包括: 1.机器规模的可扩放性 系统性能是如何随着处理机数目的增加而改善的 2.问题规模的可扩放性 系统的性能是如何随着数据规模和负载规模的增加而改善 3.技术的可扩放性 系统的性能上如何随着技术的改变而改善 可扩放性研究的目的: 确定解决某类问题时何种并行算法与何种并行体系结构的组合，可以有效的利用大量的处理器； 对于运用于某种并行机上的某种算法，根据在小规模处理机的运行性能预测移植到大规模处理机上的运行性能; 对固定问题规模，确定最优处理机数和可获得的最大的加速比 （15分）给出五个基本的并行计算模型，并说明其各自的优缺点。 ①PRAM：SIMD-SM 优点： 适于表示和分析并行计算的复杂性； 隐匿了并行计算机的大部底层细节（如通信、同步），从而易于使用。 缺点： 不适于MIMD计算机，存在存储器竞争和通信延迟问题。 ②APRAM:MIMD-SM 优点： 保存了PRAM的简单性； 可编程性和可调试性（correctness）好； 易于进行程序复杂性分析。 缺点： 不适于具有分布式存储器的MIMD计算机。 ③BSP：MIMD-DM 优点: 把计算和通信分割开来； 使用hashing自动进行存储器和通信管理； 提供了一个编程环境。 缺点： 显式的同步机制限制并行计算机数据的增加； 在一个Superstep中最多只能传递h各报文。
异构计算（Heterogeneous computing） 摘要 异构计算（Heterogeneous computing）技术从80年代中期产生，由于它能经济有效地获取高性能计算能力、可扩展性好、计算资源利用率高、发展潜力巨大，目前已成为并行/分布计算领域中的研究热点之一。本文主要介绍了CPU+GPU基础知识及其异构系统体系结构（CUDA）和基于OpenCL的异构系统，并且总结了两种结构的特点，从而对异构计算有了更深的理解。 关键词：异构计算CUDA OpenCL 1、引言 异构计算主要是指使用不同类型指令集和体系架构的计算单元组成系统的计算方式。常见的计算单元类别包括CPU、GPU等协处理器、DSP、ASIC、FPGA 等。我们常说的并行计算正是异构计算中的重要组成部分异构计算近年来得到更多关注，主要是因为通过提升CPU时钟频率和内核数量而提高计算能力的传统方式遇到了散热和能耗瓶颈。而与此同时，GPU等专用计算单元虽然工作频率较低，具有更多的内核数和并行计算能力，总体性能/芯片面积的比和性能/功耗比都很高，却远远没有得到充分利用。CPU的设计让其比较擅长于处理不规则数据结构和不可预测的存取模式，以及递归算法、分支密集型代码和单线程程序。这类程序任务拥有复杂的指令调度、循环、分支、逻辑判断以及执行等步骤。而GPU擅于处理规则数据结构和可预测存取模式。而APU的设计理念则正是让CPU和GPU完美合作，集合两者的长处，用异构计算来达到整体性能的最佳化。目前，已经有50款领先的应用能够利用AMD APU进行加速，而后续的应用也将陆续到来——异构计算普及的一刻应该是近在咫尺了。 1.1 CPU和GPU的本质区别 (1) CPU特点 a) CPU的目标是快速执行单一指令流； b) CPU将其用于乱序执行、寄存器重命名、分支预测以及巨大的cache上，
献给对P2P网络感兴趣的朋友们： Peer-to-Peer 计算综述 罗杰文 luojw@https://www.doczj.com/doc/1318465820.html, 中科院计算技术研究所 2005-4-25
1绪言 (3) 1.1研究的意义 (3) 1.2国内外P2P技术研究现状 (5) 1.3对研究内容有重大影响的几个方面 (12) 1.3.1度数和直径的折衷关系（TRADEOFF）对发现算法的影响 (13) 1.3.2 S MALL WORLD理论对P2P发现技术的影响 (14) 1.3.3语义查询和DHT的矛盾 (14) 1.4 P2P发现技术研究的成果与不足 (15) 2复杂P2P网络拓扑模型 (15) 2.1 I NTERNET拓扑模型 (15) 2.1.1随机网络与拓扑模型 (16) 2.1.2随机网络参数 (16) 2.1.3拓扑模型 (17) 2.2 S MALL W ORLD网络 (20) 3非结构化P2P搜索算法 (21) 3.1 B LIND SEARCH (21) 3.2 I NFORMED S EARCH M ETHODS (22) 3.2.1 C ACHE M ETHOD (22) 3.2.2 M OBILE A GENT BASED M ETHOD (23) 4主要P2P软件模型研究 (23) 4.1 N APSTER (23) 4.2 G NUTELLA (24) 4.3 K A Z AA (26)
1绪言 1.1研究的意义 最近几年，对等计算( Peer-to-Peer，简称P2P) 迅速成为计算机界关注的热门话题之一，财富杂志更将P2P列为影响Internet未来的四项科技之一。 根据被引用比较多的Clay Shirky的定义，P2P技术是在Internet现有资源组织和查找形式之外研究新的资源组织与发现方法，P2P技术最大的意义在于不依赖中心结点而依靠网络边缘结点自组织对等协作的资源发现（Discovery，Lookup）形式。 顾名思义，对等网络打破了传统的Client/Server模式，对等网络中的每个结点的地位都是对等的。每个结点既充当服务器，为其他结点提供服务，同时也享用其他结点提供的服务。P2P技术的特点体现在以下几个方面。 非中心化（Decentralization）：网络中的资源和服务分散在所有结点上，信息的传输和服务的实现都直接在结点之间进行，可以无需中间环节和服务器的介入，避免了可能的瓶颈。 可扩展性：在P2P网络中，随着用户的加入，不仅服务的需求增加了，系统整体的资源和服务能力也在同步地扩充，始终能较容易地满足用户的需要。整个体系是全分布的，不存在瓶颈。理论上其可扩展性几乎可以认为是无限的。 健壮性：P2P架构天生具有耐攻击、高容错的优点。由于服务是分散在各个结点之间进行的，部分结点或网络遭到破坏对其它部分的影响很小。P2P网络一般在部分结点失效时能够自动调整整体拓扑，保持其它结点的连通性。P2P网络通常都是以自组织的方式建立起来的，并允许结点自由地加入和离开。P2P网络还能够根据网络带宽、结点数、负载等变化不断地做自适应式的调整。 高性能/价格比：性能优势是P2P被广泛关注的一个重要原因。随着硬件技术的发展，个人计算机的计算和存储能力以及网络带宽等性能依照摩尔定理高速增长。采用P2P架构可以有效地利用互联网中散布的大量普通结点，将计算任务或存储资料分布到所有结点上。利用其中闲置的计算能力或存储空间，达到高性能计算和海量存储的目的。通过利用网络中的大量空闲资源，可以用更低的成本提供更高的计算和存储能力。
异构计算 异构计算技术从80年代中期产生，由于它能经济有效地获取高性能计算能力、可扩展性好、计算资源利用率高、发展潜力巨大，目前已成为并行/分布计算领域中的研究热点之一。本文还强调了未来异构计算研究应注意的一些方面。 随着通信和网络技术的迅速发展，网络计算概念应运而生。同构网络计算系统now或cow首先兴起，接着很快涌现出异构网络计算系统，从而使异构计算近年来成为并行/分布计算领域中的主要研究热点之一。 基本概念 在异构计算系统上进行的并行计算通常称为异构计算。人们已从不同角度对异构计算进行定义，综合起来我们给出如下定义：异构计算是一种特殊形式的并行和分布式计算，它或是用能同时支持simd方式和mimd方式的单个独立计算机，或是用由高速网络互连的一组独立计算机来完成计算任务。它能协调地使用性能、结构各异地机器以满足不同的计算需求，并使代码（或代码段）能以获取最大总体性能方式来执行。 概括来说，理想的异构计算具有如下的一些要素：
（1）它所使用的计算资源具有多种类型的计算能力，如simd、mimd、向量、标量、专用等；（2）它需要识别计算任务中各子任务的并行性需求类型；（3）它需要使具有不同计算类型的计算资源能相互协调运行；（4）它既要开发应用问题中的并行性，更要开发应用问题中的异构性，即追求计算资源所具有的计算类型与它所执行的任务（或子任务）类型之间的匹配性；（5）它追求的最终目标是使计算任务的执行具有最短时间。 可见，异构计算技术是一种使计算任务的并行性类型（代码类型）与机器能有效支持的计算类型（即机器能力）最相匹配、最能充分利用各种计算资源的并行和分布计算技术。 基本原理 1、异构计算系统。 它主要由以下三部分组成：（1）一组异构机器。（2）将各异构机器连接起来的高速网络。它可以是商品化网络，也可以是用户专门设计的。（3）相应的异构计算支撑软件。 2、异构计算的基本工作原理。
1.什么是边缘计算？ 在IIoT 的背景下，“边缘”是指靠近数据源的计算基础设施，例如工业机器（例如风力涡轮机，磁共振（ MR ）扫描仪，海底防喷器）），工业控制器如 SCADA 系统和时间序列数据库汇总来自各种设备和传感器的数据。这些设备通常远离云中可用的集 中式计算。 边缘计算是在靠近物或数据源头的网络边缘侧，融合网络、计算、存储、应用核 心能力的开放平台。边缘计算与云计算互相协同，共同助力各行各业的数字化转型。 它就近提供智能互联服务，满足行业在数字化变革过程中对实时业务、业务智能、数 据聚合与互操作、安全与隐私保护等方面的关键需求。 到目前为止，边缘计算的作用主要用于摄取，存储，过滤和发送数据到云系统。 然而，我们正处于一个时间点，这些计算系统正在包装更多的计算，存储和分析功能， 以消耗并对机器位置的数据采取行动。这种能力对于工业组织来说将是非常有价值的 - 这是不可或缺的。 2.这对工业带来的价值 行业权威人士已经计算出，数以千计的连接事物会从不同的来源产生大量的数 据。根据国际电信联盟电信标准分局 ITU-T的研究报告，到 2020 年，每个人每秒将产生1.7MB 的数据， IoT 可穿戴设备的出货量将达到 2.37 亿。 IDC 也发布了相关预测， 到2018 年，50%的物联网网络将面临网络带宽的限制，40%的数据需要在网络边缘侧分析、处理与储存，到2025 年，这一数字将超过50%。管理咨询公司麦肯锡公司估计，到2025 年，工业物联网（IIoT ）将创造价值7.5 万亿的市场规模。工业物联网将思想和机器结合在一起，将人们与加速数字产业转型的机器数据相结合。 通过将大数据，高级分析和机器学习应用于运营，工业可以减少计划外停机时间， 提高资产性能，降低维护成本，并为从机床数据中获取未开发价值的新业务模式开拓 潜力。 过去几年来，工业组织已经开始将云计算融入业务，从大量数据中获取洞察力， 帮助实现关键业务成果，包括减少意外停机，提高生产效率，降低能耗等。云计算仍 然通过工业物联网来实现新的性能水平发挥关键作用，因为它需要大量的计算能力来 有效地管理来自机器的庞大数据量。 但是随着更多的计算，存储和分析能力被捆绑到更靠近数据源的较小设备中，即 工业机器 - 边缘计算将有助于边缘处理实现工业物联网的承诺。 虽然这个概念不是新的，但是有几个关键的驱动力使它成为今天更可行的现实： 计算和传感器的成本继续下滑， 在较小尺寸的设备（如网关或传感器集线器）中执行的更多计算能力，
潮流例题：根据给定的参数或工程具体要求（如图），收集和查阅资料；学习相关软件（软件自选：本设计选择Matlab进行设计）。 2.在给定的电力网络上画出等值电路图。 3.运用计算机进行潮流计算。 4.编写设计说明书。 一、设计原理 1．牛顿-拉夫逊原理 牛顿迭代法是取x0 之后，在这个基础上，找到比x0 更接近的方程的跟，一步一步迭代，从而找到更接近方程根的近似跟。牛顿迭代法是求方程根的重要方法之一，其最大优点是在方程f(x) = 0 的单根附近具有平方收敛，而且该法还可以用来求方程的重根、复根。电力系统潮流计算，一般来说，各个母线所供负荷的功率是已知的，各个节点电压是未知的（平衡节点外）可以根据网络结构形成节点导纳矩阵，然后由节点导纳矩阵列写功率方程，由于功率方程里功率是已知的，电压的幅值和相角是未知的，这样潮流计算的问题就转化为求解非线性方程组的问题了。为了便于用迭代法解方程组，需要将上述功率方程改写成功率平衡方程，并对功率平衡方程求偏导，得出对应的雅可比矩阵，给未知节点赋电压初值，一般为额定电压，将初值带入功率平衡方程，得到功率不平衡量，这样由功率不平衡量、雅可比矩阵、节点电压不
平衡量（未知的）构成了误差方程，解误差方程，得到节点电压不平衡量，节点电压加上节点电压不平衡量构成新的节点电压初值，将新的初值带入原来的功率平衡方程，并重新形成雅可比矩阵，然后计算新的电压不平衡量，这样不断迭代，不断修正，一般迭代三到五次就能收敛。 牛顿—拉夫逊迭代法的一般步骤： （1）形成各节点导纳矩阵Y。 （2）设个节点电压的初始值U和相角初始值e 还有迭代次数初值为0。 （3）计算各个节点的功率不平衡量。 （4）根据收敛条件判断是否满足，若不满足则向下进行。 （5）计算雅可比矩阵中的各元素。 （6）修正方程式个节点电压 （7）利用新值自第（3）步开始进入下一次迭代，直至达到精度退出循环。 （8）计算平衡节点输出功率和各线路功率 2．网络节点的优化 １）静态地按最少出线支路数编号 这种方法由称为静态优化法。在编号以前。首先统计电力网络个节点的出线支路数，然后，按出线支路数有少到多的节点顺序编号。当由n 个节点的出线支路相同时，则可以按任意次序对这n 个节点进行编号。这种编号方法的根据是导纳矩阵中，出线支路数最少的节点所对应的行中非零元素也２）动态地按增加出线支路数最少编号在上述的方法中，各节点的出线支路数是按原始网络统计出来的，在编号过程中认为固定不变的，事实上，在节点消去过程中，每消去一个节点以后，与该节点相连的各节点的出线支路数将发生变化(增加，减少或保持不变)。因此，如果每消去一个节点后，立即修正尚未编号节点的出线支路数，然后选其中支路数最少的一个节点进行编号，就可以预期得到更好的效果，动态按最少出线支路数编号方法的特点就是按出线最少原则编号时考虑了消去过程中各节点出线支路数目的变动情况。 3．MATLAB编程应用 Matlab 是“Matrix Laboratory”的缩写，主要包括：一般数值分析，矩阵运算、数字信号处理、建模、系统控制、优化和图形显示等应用程序。由于使用Matlab 编程运算与人进行科学计算的思路和表达方式完全一致，所以不像学习高级语言那样难于掌握，而且编程效率和计算效率极高，还可在计算机上直接输出结果和精美的图形拷贝，所以它的确为一高效的科研助手。 二、设计内容 1.设计流程图
一、引言 光学光刻得以延续生命的首要条件也是最重要的条件是提高光学曝光设备的性能。从物理结构上描述，步进扫描光刻机由激光光源系统、光束传输系统、照明光学系统、投影光学系统、掩模台系统和工件台系统等几部分组成。在整个光刻机系统中，曝光分系统最为复杂，它直接决定了光刻机的主要性能参数：光刻分辨力、套刻精度和产量。它主要完成光束调理，满足曝光剂量控制所需的均匀性、实时性、高可靠性、高精度等要求。 曝光分系统从结构上可以分为三个 子系统：准分子激光器、照明器和投影物 镜。曝光分系统的主要功能是参与光刻机系统的同步控制，并确保硅片每一次以正确的剂量曝光。剂量控制作为曝光分系统驱动的一部分，完成衰减器控制、激光器控制、剂量控制等功能。 二、剂量控制板功能定义 剂量控制板（Dose Control Board，DCB）的主要功能分为三部分，一是通过实现与被控对象的通信协议，完成对被控对象的控制；二是采集照明分系统中各相关对象状态并发送给上位机；三是通过采集并分析来自能量探测（Energy Detection，ED）传感器，能量斑传感器（Energy Spot Sensor，ESS）的信号直接控制激光器（Laser）与可变衰减器（Variable Attenuator，VA）完成曝光流程控制和剂量控制。 根据DCB 的主要功能并结合板卡自身调试，易维护的需求，将其功能需求划分如下： 1.管理各种应用和测试流程，实现剂量控制算法，监控DCB 状态。 2.管理与上位机的通信，数据交换区；管理看门狗。 3.管理各种外部的接口，包括：激光器（Laser），压力温度互锁板（Pressure and Temperature Interlock，PTI），可变衰减器（VA），能量探测传感器（ED）和能量斑传感器（ESS）。 4.板卡在线调试。 5.为各个设备供电。 DCB 的整体功能框图如图1所示。由于剂量控制板的接口较多，而且需要实现剂量控制算法，有一定的运算量。因此，考虑采用异构计算的DSP+FPGA 架构。DSP 主要实现剂量控制算法，FPGA 主要实现接口和存储空间管理。 三、剂量控制板单元设计 根据以上所述的DCB 的功能需求， 可以将其分为以下几个主要单元：流程管理单元、与上位机通信单元、外部设备接口管理单元、调试单元和供电单元。下面分别对相应单元进行详细介绍。 1.流程管理单元 板卡实现的各种应用和测试流程在该单元中完成。该单元的主体应该是一块嵌入式处理器芯片，通过编程实现照明分系统需要的特定功能，如曝光流程控制，曝光剂量控制。设计采用DSP 芯片对曝光流程，测试流程进行管理，并实现剂量控制算法，其优点在于功能强大，运算速度快，易于编程和维护。 综合考虑选用TI 公司C6000系列TMS320C6713BGDP 芯片，其特点： 主频可达300MHz ；支持浮点数运算；带外部存储器接口（EMIF），几乎可与目前所有类型的存储器直接接口； 基于异构计算的光刻机曝光分系统剂量控制板的分析与设计 张南峰 许武军 赵秋锦 东华大学信息科学与技术学院 上海 201620 黄栋梁 上海微电子装备有限公司 201203 图1 剂量控制板（DCB）功能框图 图2 FPGA 供电电路示意图
第8卷第5期2019$9月 Vol.8No.5网络新媒体技术Sep.2019 ?经典评述- 移动边缘计算技术概述! 洪德坚王雷 (中国科学技术大学信息学院合肥230026) 摘要：移动边缘计算技术MEC是未来5G技术提高服务平台应用能力的重要技术手段#首先介绍了MEC发展历程、优势及基本架构，然后对MEC的三大关键技术进行总结分析,并描述了MEC的三大类应用场景，最后探讨了MEC的发展趋势# 关键词：移动边缘计算，5G未来网，移动互联网应用 Overview of Mobile Edge Computing Technology HONG Dejian,WANG Lal (Universty oS Sciencc and Technology oS China,Hefei,230026,China) AbstracC:Mobile edge ccmputing technology----MEC is an important technical means for improving the application capability oS sere-ice platforms in the future5G technology.This paper first introduccs the development histo-,advantages and basic structure oS MEC, then summarizes and analyzes the three key technologies oS MEC,describes the three major application sccnarios oS MEC,and finally discusses the development trend oS MEC. Keywordt:Mobile edge ccmputing,5G future network,mobile internet application 0引言 随着互联网、移动互联网的飞速发展,用户对网络对流量的需求越来越大，要求也越来越高,为此网络面临的压力越来越大，为更快处理网络中用户需求，移动边缘计算技术(Mobile Edga Computing,MEC)应运而生，目前,MEC已成业界热点话题# MEC由国际标准组织ETSID(European Telecammunications Standards Institute)(欧洲电信标准协会)提出，是基于5G演进架构、将基站与互联网业务深度融合的技术。经过几年的推进，目前关于MEC业界已经形成共识：MEC将是建设5G网络边缘云的普遍模式，或将成为5G业务发展的“试金石”&1]o 本文将对MEC进行相关探讨。主要包括4部分内容，第1部分MEC研究现状和基本架构，第2部分是对MEC主要3大关键技术进行研究，第3部分内容是MEC典型的应用场景研究，第4部分内容是MEC未来发展和展望。 1MEC发展历程、优势及基本架构 移动边缘计算MEC概念最初于2013年出现。HM与Nokia Siemens网络当时共同推出了一款计算平台，可在无线基站内部运行应用程序，向移动用户提供业务。欧洲电信标准协会ETSI于2014年成立移动边 本文于2018-08-01收到，2018-08-16收到修改稿。 *基金项目：工信部"新一代宽带无线移动通信网”重大专项子课题(2017ZX03001019-004)
第三章互连网络 对于一颗K级二叉树（根为0级，叶为k-1级），共有N=2^k-1个节点，当推广至m-元树时（即每个非叶节点有m个子节点）时，试写出总节点数N的表达式。 答： 推广至M元树时，k级M元树总结点数N的表达式为： N=1+m^1+m^2+...+m^（k-1）=(1-m^k)*1/(1-m); 二元胖树如图所示，此时所有非根节点均有2个父节点。如果将图中的每个椭圆均视为单个节点，并且成对节点间的多条边视为一条边，则他实际上就是一个二叉树。试问：如果不管椭圆，只把小方块视为节点，则他从叶到根形成什么样的多级互联网络 答：8输入的完全混洗三级互联网络。 四元胖树如图所示，试问：每个内节点有几个子节点和几个父节点你知道那个机器使用了此种形式的胖树 答：每个内节点有4个子节点，2个父节点。CM-5使用了此类胖树结构。 试构造一个N=64的立方环网络，并将其直径和节点度与N=64的超立方比较之，你的结论是什么 答：A N=64的立方环网络,为4立方环（将4维超立方每个顶点以4面体替代得到），直径d=9，节点度n=4 B N=64的超立方网络，为六维超立方（将一个立方体分为8个小立方，以每个小立方作为简单立方体的节点，互联成6维超立方），直径d=6，节点度n=6 一个N=2^k个节点的 de Bruijin 。 。。。试问：该网络的直径和对剖宽度是多少 答：N=2^k个节点的 de Bruijin网络直径d=k 对剖宽带w=2^(k-1)
一个N=2^n个节点的洗牌交换网络如图所示。试问：此网络节点度==网络直径==网络对剖宽度== 答：N=2^n个节点的洗牌交换网络，网络节点度为=2 ，网络直径=n-1 ，网络对剖宽度=4 一个N=（k+1）2^k个节点的蝶形网络如图所示。试问：此网络节点度=网络直径=网络对剖宽度= 答：N=（k+1）2^k个节点的蝶形网络，网络节点度=4 ，网络直径=2*k ，网络对剖宽度=2^k 对于如下列举的网络技术，用体系结构描述，速率范围，电缆长度等填充下表中的各项。（提示：根据讨论的时间年限，每项可能是一个范围） 答： 如图所示，信包的片0，1，2，3要分别去向目的地A，B，C，D。此时片0占据信道CB，片1占据信道DC，片2占据信道AD，片3占据信道BA。试问： 1）这将会发生什么现象 2）如果采用X-Y选路策略，可避免上述现象吗为什么 答： 1）通路中形成环，发生死锁
边缘云计算技术及标准化白皮书（2018） 编写单位：阿里云计算有限公司 中国电子技术标准化研究院 等 2018年12月12日联合发布
内容摘要 随着5G、物联网时代的到来以及云计算应用的逐渐增加，传统的云计算技术已经无法满足终端侧“大连接，低时延，大带宽”的需求。随着边缘计算技术的出现，云计算将必然发展到下一个技术阶段，将云计算的能力拓展至距离终端最近的边缘侧，并通过云边端的统一管控实现云计算服务的下沉，提供端到端的云服务，由此产生了边缘云计算的概念。为了积极引导边缘云计算技术和应用发展，以及边缘云计算相关标准的制定，我们编写本白皮书，其主要内容包括： 一、定义边缘云计算的概念。首先梳理了目前边缘计算的概念；其次对边缘云计算进行了定义和详细的描述；然后阐述了对边缘计算与边缘云计算之间的关系。 二、边缘云计算的典型应用场景。通过列举边缘云计算的典型应用场景，分析了边缘云计算技术在各个应用场景中关键成功因素。 三、边缘云计算的技术特点。边缘云计算具备6大特点，包括低延时、自组织、可定义、可调度、高安全和标准开放。 四、边缘云计算标准化需求以及标准化建议。通过对边缘云技术的分析，给出相应的标准化建议，包括5大类标准：基础标准、技术标准、管理标准、安全标准和行业及应用标准。
编写单位（排名不分先后） 阿里云计算有限公司 中国电子技术标准化研究院（工业和信息化部电子工业标准化研究院） 中国联合网络通信有限公司研究院 中移（苏州）软件技术有限公司 广州虎牙信息科技有限公司 参编人员 白常明朱松张大江陈志峰杨丽蕴王泽胜陈行 高莹姜倩刘晨杨鹏赵越鹏赵娇娇张瑞增 徐雷毋涛侯乐赵怡辛盛刘亚丹杨智林 于新林周升曹维国董陈强李静远王广芳曾林青 张毅萍熊鹰王文娟高俊富王政惠何云飞朱照远 杨敬宇 版权声明 本白皮书版权属于中国电子技术标准化研究院和阿里云计算有限公司，并受法律保护。转载、摘编或利用其它方式使用本白皮书文字或者观点的，应注明“来源：边缘云计算技术及标准化白皮书（2018）”。违反上述声明者，将追究其相关法律责任。
高性能并行计算系统检查点技术与应用 孙国忠 李艳红 樊建平 （中国科学院计算技术研究所 中国科学院研究生院 北京 １０００８０） (sgz@https://www.doczj.com/doc/1318465820.html,,lyh@https://www.doczj.com/doc/1318465820.html,,fan@https://www.doczj.com/doc/1318465820.html,) 摘 要 随着高性能并行计算系统规模越来越大，软件和硬件发生故障的概率随之增大，系统的容错性和可靠性已经成为应用可扩展性的主要限制因素。并行检查点技术可以使系统从故障中恢复并减少计算损失，是高性能计算系统重要的容错手段。本文将介绍检查点技术的背景和定义，研究并行检查点协议的分类，检查点存储技术，以及利用这些协议和技术实现的ＭＰＩ并行检查点系统，最后给出对各个关键技术的详细评价及结论。 关键词 高性能计算；消息传递系统；并行检查点；回滚恢复 中图法分类号 ＴＰ３１ A Survey of Checkpointing Technology and It’s Application for High Performance Parallel Systems Sun Guo-Zhong Li Yan-Hong Fan Jian-Ping (Institute of Computing Technology,Chinese Academy of Sciences/Graduate School of the Chinese Academy of Sciences, Beijing 100080) (sgz@https://www.doczj.com/doc/1318465820.html, lyh@https://www.doczj.com/doc/1318465820.html, ｆａｎ＠ｉｃｔ．ａｃ．ｃｎ) Abstract With the scale of high performance parallel computing systems becoming larger,the fault probability of software and hardware in these systems is increased.As a result, issues of fault tolerance and reliability are becoming limiting factors on application scalability.Parallel checkpointing can help fault system recover from fault and reduce the computing losing,and is an important method for tolerating fault of high performance computing system.This paper will discuss the background and definitions of checkpointing,classify of parallel checkpointing protocols, checkpoint storage technology, and several MPI systems adopting these parallel checkpointing protocols.At last we give appraisement of these key technologies and list our conclusions. Key words High Performance Computing; Message Passing System; Parallel Checkpointing ; Rollback Recovery １ 引 言 高性能并行计算领域的容错技术由于以下几种情况而越发受到重视。1）在一台高性能计算机系统中，总的处理器数快速增长。如BlueGene/L 总的处理器有130,000个，有证据表明这样的一台机器几个小时就要有一个处理器失效。虽然处理器总数的提高带来了性能提高，但是也提高了故障点的数目。2）大多数并行计算机系统正在从采用昂贵的硬件系统向低成本、由处理器和光纤网络定制组装的cluster转变，以及采用Internet范围内网格技术来执行程序导致硬件发生故障的概率较高。3）很多科学计算任务被设计成一次运行几天或者几个月，例如ASCI的stockpile certification 程序以及BlueGene当中的ab initio 蛋白质折叠程序将运行几个月。由于应用的运行时间比硬件的平均故障间隔时间(MTBF)长，科学计算程序必须 本课题得到国家高科技发展计划(863)基金支持(2003AA1Z2070)和中国科学院知识创新工程支持(20036040) 具有对硬件故障的容错技术。采用检查点技术恢复应用运行是一种有效的容错方法。 检查点技术除了实现系统容错，还能协助实现灵活的作业调度。例如，拥有高性能计算系统的气象局要在每天的固定时段加载资源独占作业进行气象预报或者运行紧急作业，需要暂停原来运行的其它作业。因此必须记录原来作业的检查点并在完成紧急作业后恢复运行。 可见，采用检查点技术可以实现系统容错，实现灵活的作业调度以及提高资源利用率。本文将通过对各种并行检查点技术的分析比较，呈现出高性能并行计算系统检查点机制的发展状况，存在的问题和研究前景。 ２背景和定义 检查点技术在各个领域都进行了广泛研究，如硬件级指令重试、分布式共享内存系统、系统调试、实时系统等。本文侧重于高性能并行计算系统，主要包括ＭＰＰ、Ｃｌｕｓｔｅｒ。这些系统的进程之间通过消息传递实现通信，本文中也称为消息传
[像差专题]球差、彗差、像散、场曲、畸变以及色差 概念 1。球差：由主轴上某一物点向光学系统发出的单色圆锥形光束，经该光学系列折射后，若原光束不同孔径角的各光线，不能交于主轴上的同一位置，以至在主轴上的理想像平面处，形成一弥散光斑（俗称模糊圈），则此光学系统的成像误差称为球差。 2。慧差：由位于主轴外的某一轴外物点，向光学系统发出的单色圆锥形光束，经该光学系列折射后，若在理想像平面处不能结成清晰点，而是结成拖着明亮尾巴的慧星形光斑，则此光学系统的成像误差称为慧差。3。像散：由位于主轴外的某一轴外物点，向光学系统发出的斜射单色圆锥形光束，经该光学系列折射后，不能结成一个清晰像点，而只能结成一弥散光斑，则此光学系统的成像误差称为像散。 4。场曲：垂直于主轴的平面物体经光学系统所结成的清晰影像，若不在一垂直于主轴的像平面内，而在一以主轴为对称的弯曲表面上，即最佳像面为一曲面，则此光学系统的成像误差称为场曲。 5。畸变：被摄物平面内的主轴外直线，经光学系统成像后变为曲线，则此光学系统的成像误差称为畸变。6。色差：由白色物点向光学系统发出一束白光，经该光学系列折射后，组成该束白光的红、橙、黄、绿、青、蓝、紫等各色光，不能会聚于同一点，即白色物点不能结成白色像点，而结成一彩色像斑的成像误差，称为色差。 球差、慧差所引起的成像模糊现象称为光晕。
像散：由位于主轴外的某一轴外物点，向光学系统发出的斜射单色圆锥形光束，经该光学系列折射后，不能结成一个清晰像点，而只能结成一弥散光斑。当前后移动像平面至某一位置（弧矢像面）时，弥散光斑变成垂直于光学系统弧矢面的短线s 。 当前后移动像平面至另一位置（子午像面）时，弥散光斑又变成垂直于光学系统子午面的短线t 。在子午像面和弧矢像面之间可以找到一弥散光斑最小的成像平面，而在其余位置只能得到一介椭圆形弥散光斑，则
P-Q分解法潮流计算方法改进综述 摘要：本文介绍了P-Q分解法潮流计算方法的数学模型，简化假设及特点，总 结了P-Q分解法在低压配电网络中，随着支路R/X比值的增大所带来的迭代次数 增大和不收敛性的解决方法，及该方法在不同假设条件下收敛性，并提出了自己 的见解。 关键词： P-Q分解法；收敛性；大R/X比支路 1 潮流计算的数学模型 P-Q分解法又称为快速解耦法，是基于牛顿-拉夫逊法的改进，其基本思想是：把节点功率表示为电压向量的极坐标方程式，抓住主要矛盾，把有功功率误差作 为修正电压向量角度的依据，把无功功率误差作为修正电压幅值的依据，把有功 功率和无功功率迭代分开进行【1】。 对一个有 n 个节点的系统，假定第1个为平衡节点，第 2~m+1号节点为PQ 节点，第m+2~n号节点为PV节点，则对于每一个PQ或PV节点，都可以在极坐 标形式下写出一个有功功率的不平衡方程式： 这些假设密切地结合了电力系统的某些固有特点，作为电力系统潮流计算广泛使用的一 种算法，P-Q分解法无论是内存占用量还是计算速度方面都比牛顿-拉夫逊法有了较大的改进，主要反映在以下三点： ① 在修正方程式中，B’和B’’二者的阶数不同。B’为n-1 阶，B ‘’为m阶方阵，简化了牛 顿法的一个n+m-1的方程组，显著减少了方程组的求解难度，相应地也提高了计算速度。 ②用常系数矩阵B’和B’’代替了变系数雅可比矩阵，而且系数矩阵的元素在迭代过程中 保持不变。系数矩阵的元素是由导纳矩阵元素的虚部构成的，可以在进行迭代过程以前，对 系数矩阵形成因子表，然后反复利用因子表对不同的常数项△P/V 或△Q/V进行前代和回代 运算，就可以迅速求得电压修正量，从而提高了迭代速度，大大地缩短了每次迭代所需的时 间【2】。 ③用对称的B’和B’’代替了不对称的雅可比矩阵，因此只需要存储因子表的上三角部分，这样减少了三角分解的计算量和内存【2】。 3 P-Q分解法的收敛性改进 在各种文献中，都有对P-Q分解法从不同方面提出了讨论和改进，有些是对硬件的改进，如使用并行算法和相应的并行软件来替代原来的串行处理，有些是对算法程序做出了改进， 方法众多，不在此累述。但是我注意到，在实际应用中，由于理论与实际复杂多变的差别， 一些网络如果不满足P-Q分解法的前提假设，可能会出现迭代次数增加或不收敛的情况，而 一些病态系统或重负荷系统，特别是放射状电力网络的系统，也会出现计算过程的振荡或不 收敛的情况。针对此类异常网络，从网络参数改进的角度出发，对此做出了总结。 3.1 大R/X比支路的处理 一般来说，110KV以上的高压电力网中，输电线支路易满足R< 第三章互连网络 3.1 对于一颗K级二叉树（根为0级，叶为k-1级），共有N=2^k-1个节点，当推广至m- 元树时（即每个非叶节点有m个子节点）时，试写出总节点数N的表达式。 答： 推广至M元树时，k级M元树总结点数N的表达式为： N=1+m^1+m^2+...+m^（k-1）=(1-m^k)*1/(1-m); 3.2二元胖树如图3.46所示，此时所有非根节点均有2个父节点。如果将图中的每个椭圆均视为单个节点，并且成对节点间的多条边视为一条边，则他实际上就是一个二叉树。试问：如果不管椭圆，只把小方块视为节点，则他从叶到根形成什么样的多级互联网络？ 答：8输入的完全混洗三级互联网络。 3.3 四元胖树如图3.47所示，试问：每个内节点有几个子节点和几个父节点？你知道那个机器使用了此种形式的胖树？ 答：每个内节点有4个子节点，2个父节点。CM-5使用了此类胖树结构。 3.4 试构造一个N=64的立方环网络，并将其直径和节点度与N=64的超立方比较之，你的结论是什么？ 答：A N=64的立方环网络,为4立方环（将4维超立方每个顶点以4面体替代得到），直径d=9，节点度n=4 B N=64的超立方网络，为六维超立方（将一个立方体分为8个小立方，以每个小立方作为简单立方体的节点，互联成6维超立方），直径d=6，节点度n=6 3.5 一个N=2^k个节点的de Bruijin 网络如图3.48。 。。。 试问：该网络的直径和对剖宽度是多少？ 答：N=2^k个节点的de Bruijin网络直径d=k 对剖宽带w=2^(k-1) 3.6 一个N=2^n个节点的洗牌交换网络如图3.49所示。试问：此网络节点度==？网络直径==？网络对剖宽度==？ 答：N=2^n个节点的洗牌交换网络，网络节点度为=2 ，网络直径=n-1 ，网络对剖宽度=4 3.7 一个N=（k+1）2^k个节点的蝶形网络如图3.50所示。试问：此网络节点度=？网络直径=？网络对剖宽度=？ 答：N=（k+1）2^k个节点的蝶形网络，网络节点度=4 ，网络直径=2*k ，网络对剖宽度=2^k 3.9 对于如下列举的网络技术，用体系结构描述，速率范围，电缆长度等填充下表中的各项。（提示：根据讨论的时间年限，每项可能是一个范围）并行计算课后答案
相关主题
文本预览