向量流水处理机48页PPT

成组传送
中间存储器
多级存储系统的向量处理机CRAY1结构
第二章 向量处理机
1、向量运算 对于向量运算来说，中间存储器是8个向量寄存 器(V)，每个向量寄存器有64个分量，每个分量为 一个64位寄存器。向量指令能对向量寄存器的分量 进行连续的重复处理。执行向量指令时，流水结构 运算器在一个时钟周期内从两个V寄存器得到一对 操作数，完成某种操作后用一个时钟周期时间把结 果送入另一个V寄存器。注意，此处的向量运算流 水线是从向量寄存器而不是从主存储器获得数据。 同样，从流水线输出的结果向量也是送回向量寄存 器。而另一方面，主存储器与V寄存器之间的数据 传送以成组传送方式进行。
第二章 向量处理机
第二章 向量处理机
向量寄存器Leabharlann ×64个 （64位寄存器）（V）主存储器 8M字节 （64个模块） 64个缓冲寄存器（T）
64个缓冲寄存器（B）
高速寄存器 8个标量寄存器（S） 64位
12个流水线 运算部件
8个地址寄存器（A）
指令寄存器 程序计数器
24位
指令缓冲寄存器 （256个）
；读循环初值，10 ；读循环终值，1010 ；读内存地址增量，常数4 ；向量偏移量，初始值为40 ；读A向量的一个元素 ；读B向量的一个元素
；写C向量的一个元素 ；改变向量偏移量 ；循环次数增1 ；循环是否结束 ；循环未结束转LOOP，否则继续 ；循环初值 ；循环终值 ；内存地址增量
第二章 向量处理机
第二章 向量处理机
3 中间存储器的优点 这种中间存储器与Cache相比的一大优点是速度快。 因为CRAY-1流水运算器通过寄存器寻址方式访问中间存储 器，而访问Cache必须查Cache表，这需要较长时间。 CRAY-1系统还有8个24位的A寄存器，它主要用作访问 存储器的地址寄存器和变址寄存器，还可用来提供移位的 计数值和循环控制值。64个24位的B寄存器用作A寄存器的 中间存储器，它可以存放需要重复访问的数据。主存储器 与B寄存器之间的数据传送以成组传送方式进行。这样，B 寄存器组就相当于A寄存器组的Cache。不过对B寄存器的 所有操作都是由程序指令直接控制，而不像cache那样是 自动控制的。

输入
IF 取指
ID 译码
EX 执行
MEM WB 访存 写回 输出
S1
S2
S3
S4
S5
指令的流水处理
2021/3/27
26
输入 S1
S2
….. .….
输出 Sm
时钟
流水线的基本结构
2021/3/27
27
2、流水线工作的三个时间
建立时间、正常流动时间、排空时间。
空间 填入
正常
排空
4
1 2 3 4 5 ... ... ... n-1 n
3批衣服的整个工作时间为3*3*5=45分钟
2021/3/27
5
第二种：重叠工作方式，设计三个部件，可以同时 工作，每个部件只做一样工作，操作方式如下图：
T
第1批洗涤 第1批清洗 第1批甩干
第2批洗涤 第2批清洗 第2批甩干
第3批洗涤 第3批清洗 第3批甩干
Δt
Δt
Δt
Δt
Δt
3批衣服的工作时间为5*5=25分钟，节省20分钟。
MA
MA1 MA2 MA3 MA4 MA5
EA
EA1 EA2 EA3 EA4 EA5
ED ED1 ED2 ED3 ED4 ED5
0
t1 t2 t3 t4 t5 t6
NL：规格化 MA：尾数加
时间 t7 t8 t
ED：求阶差 EA：对阶
2021/3/27
24
3、流水线的预约表
时间 流水段
S1 S2 S3 S4
2021/3/27
18
• 工作原理
主存
存
控
先行 指令栈
先行读 数栈
后行写 数栈

1 2 3 4
T0=m. Δt0
(m-1). Δt0
2 3 4 5 时间
n.Δt0
段数 m=4
第1个任务从流入到流出需要T0=m. Δt0的流水建 立时间；之后每隔Δt0流出一个任务。完成n个任务共 需时间 T= m .Δt0+(n-1). Δt0
实际吞吐率为：
n 1 TP= = m .Δt0+(n-1). Δt0 Δt0(1+ =
m
△ α i· t i)
i =1
α i[ Δt i (n 1)Δt j]
i 1
m
对于复杂的非线性流水线，吞吐率和效率需要通过 画实际的时空图才能用下面两个式子求得：
▲
TP=
任务数n
从开始流入到n个任务全部流出的时间T
η=
N个任务的总的加权时空区 m 个段的总的加权时空区
如果线性流水线各段经过的 tc不等，其中瓶颈的时 间为 tj，则完成几个任务所能达到的实际吞吐率
η1= η2=… ηm=
n△t0 T
=
n =η0 m+n-1
●整个流水线的效率为η=
η1+η2+…+ηm m
= m.n△t0 m.T
=η0
▲
若各段经过时间均相同的线性流水，其效率与吞吐率 是成正比的，即: η=TP·△t0 n>>m时，η才趋近于1
▲如果流水线各段经过的时间不等，各段的效率就会不等。
时
空图
2a
入
1
Δt0
出
2b 2c 3 Δt0 3
Δt0
4
Δt0
空间
4
3 2c
2b 2a
1 1

流水线技术广泛应用于计算机硬件和软件领域，如CPU、GPU和编译器优化等。 通过合理地划分任务和调度执行顺序，流水线技术可以显著提高程序的执行效率 和响应速度。
向量处理机概述
向量处理机是一种专门用于处理大规模向量运算的计算机系 统。它通过并行处理多个数据元素，能够高效地完成矩阵运 算、信号处理、图像处理等计算密集型任务。
流水线并行处理
01
02
03
数据并行
将数据划分为多个子集， 每个子集在流水线的一个 阶段进行处理，实现数据 并行处理。
任务并行
将任务划分为多个子任务， 每个子任务在流水线的一 个阶段进行处理，实现任 务并行处理。
指令并行
在同一时间内，流水线可 以执行多个指令，实现指 令并行处理。
流水线冲突解决
数据冲突
并行处理单元
增加并行处理单元，如多核处理器、GPU等，进一步提高计算性能。
05
流水线技术-向量处理机的应用场景
科学计算
数值模拟
向量处理机在科学计算中广泛应用于数 值模拟，如流体动力学、气象预报、地 震数据处理等。
VS
统计分析
向量处理机能够高效处理大规模数据集， 适用于统计分析、数据挖掘等领域。
图像处理
图像增强
向量处理机能够并行处理像素数据，适用于 图像增强技术，如锐化、色彩校正等。
图像分析
在图像识别和目标检测等任务中，向量处理 机能够加速特征提取和比对过程。
机器学习
模型训练
向量处理机能够高效处理大规模数据和矩阵运算，适用于机器学习模型的训练和推理。
并行算法
向量处理机支持并行算法，能够加速机器学习算法的实现和优化。
向量处理机通常采用特殊的硬件架构和指令集，以最大化并 行处理能力。它通过将数据存储在特殊的向量寄存器中，并 执行一组长指令来处理这些数据，从而实现高效的向量计算 。