并行计算方法_第1页
并行计算方法_第2页
并行计算方法_第3页
并行计算方法_第4页
并行计算方法_第5页
已阅读5页,还剩16页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

并行计算算法并行计算机基础并行算法的设计并行数值算法算例1.1并行计算并行计算(ParallelComputing)是指在并行计算机或分布式计算机等一些高性能计算系统上所做的计算,其硬件基础是高性能并行计算机。并行计算的主要目的是以最快的速度求解数字庞大且过程繁杂的计算问题。概念1.2并行计算机分类1、单指令多数据流(SIMD)型并行2、多指令多数据流(MIMD)型并行机:

并行向量处理机、大规模并行处理机、分存共享存储多处理机、对称多处理机、、工作站机群并行计算机就是由多个处理单元(处理器或计算机)组成的计算机系统,这些处理单元相互通信和协作,能快速、高效地求解大型复杂问题。1.3并行计算机体系结构1、总线结构

2、网格结构

3、超立方体结构并行计算机体系结构是指在所应用的并行处理系统中各个节点机之间的连接方式。1.4基本性能指标1、CPU和存储器:工作负载:执行时间、指令数目、浮点运算数。并行执行时间:计算时间+并行开销时间+相互通信时间存储器的层次结构:容量、延迟、带宽2、机器的成本,价格与性能/价格比3、加速比性能:Amdahi定律、Gustafson定律、Sun和Ni定律2.1并行算法设计并行算法是一些可同时执行的诸多进程的集合,这些进程相互作用和协调动作从而达到给定问题的解。并行算法的复杂度:运行时间、处理器数目、并行算法的成本、总运算量2.2设计策略技术1、并行算法设计

串行算法的直接并行化设计新的算法借用已有并行算法2、划分设计技术:均匀划分、方根划分、对数划分、功能划分3、分治设计技术:平衡树技术、倍增设计技术、流水线设计技术2.3并行设计过程1、任务划分:数据划分、功能划分2、通信划分:局部/全局通信、结构化/非结构化、静态/动态、同步/异步3、任务组合4、处理器映射:负载平衡算法、任务调度算法2.4并行计算编程环境1、分布传递并行编程:消息传递

MPIPVM并行虚拟机(ParallelVirtualMachine)2.4并行计算编程环境2、共享存储并行编程OpenMP是一种面向共享内存以及分布式共享内存的多处理器多线程并行编程语言2.4并行计算实现过程并行计算实现过程3.1矩阵运算Creativity1、矩阵的划分:

带状划分:块带状划分、循环带状划分

棋盘划分:块棋盘划分、循环棋盘划分2、矩阵的转置、矩阵向量乘法、矩阵乘法、矩阵分解、求逆、求特征值等3.2线性方程组的求解Creativity1、直接求解

奇偶归约求解

有回代的列主元高斯消去无回代的高斯-约旦法2、迭代算法高斯-赛德尔迭代法雅可比迭代法超松弛迭代法多重网格法3.3稀疏矩阵向量乘法算例Creativity1、坐标存储法4稀疏矩阵向量乘法算例Creativity2、矩阵向量串行算法4稀疏矩阵向量乘法算例Creativity3、矩阵向量的并行化分析4稀疏矩阵向量乘法算例Creativity4、矩阵向量并行算法4稀疏矩阵向量乘法算例Creativity5、4稀疏矩阵向量乘法算例Crea

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论