基于PVM的分布式并行程序设计方法及其应用

近年来,基于消息传递的并行处理方式越来越受到重视,PVM(Parallel Virture Machine)正是这     

并行环境下的多通道输出

图像处理通常是采用串行程序，然后使用高性能的图像工作站绘制，图形工作站通过内部的通道在不同屏幕或者同一个屏幕显示，不同通道对应的显示是不一样的。但是这样需要投入很多资金的去购买设备。现在出现了机群技术也称集群技术后，价格便宜的PC机也能做到提供高可靠性、可扩充性和抗灾难性，提供低价高效的高性能环境。如果把程序并行化，然后在集群服务器上计算，最后在对应的屏幕上并行地绘制图片，可以模拟图像工作站的多通道输出。     

曙光1000A上消息传递与共享存储的比较

分布式共享存储虽然有易于编程的优点,但往往被认为效率不高、完全由软件实现的分布式共享存储系统（又称为虚拟共享存储系统）更是如此,文中以典型的消息传递系统ＰＶＭ与分布式共享存储系统ＪＩＡＪＩＡ粉列,报这两种并行程序设计环境的特点,并用７个应用程序在曙光１０００Ａ上分别比较了这两个系统的性能,实验３结果表明,ＪＩＡＪＩＡ的与ＰＶ玎当,但基于ＪＩＡＪＩＡ的并行程序设计却比ＰＶＮ简单得多。     

基于Message Passing的并行编程环境

在分布式并行计算机系统中，由于处理机间无共享内存，因此采用了ＭｅｓｓａｇｅＰａｓｓｉｎｇ方式实现处理间的通信。文中讨论了基于ＭｅｓｓａｇｅＰａｓｓｉｎｇ的并行编程环境所应具备的特点，然后介绍几种被人们普遍接受的并行编程环境。     

一个PVM应用并行库的设计与实现

本文介绍了在工作站群网络的ＰＶＭ系统上，对一些常见的科学计算问题建立应用并行函数库的设计思想，给出几种并行任务划分方法和调策略。     

面向对象的并行程序设计环境框架

人们普遍认为并行处理技术将成为下一世纪计算机领域的主流技术。近年来,从不同的角度入手,已经研制出各种各样的并行程序设计环境。有的从程序设计语言的角度出发,在程序设计语言中引入了有利于并行性开发的语言元素,如Ｌinda,Emerald等,前者是基于共享存储计算模型的,而后者是基于消息传递计算模型的;还有的从程序辅助开发工个的角度出发,像Ｃ、ＦＯＲＴＲＡＮ７７等,开发了并行操作原语库,著名的产品有ＰＶＭ、ＭＰＩ等,它们都是基于消息传递计算模型的。虽然有如此多的开发环境,但它们都不同程度地存在这样那样的问题,有的不支持异构环境,有的只支持单一的并行计算模型,还有的容易出现负载矢衡的情况。同时,它们都有一个共同的缺点是,用户界面不够友好,利用它们进行并行程序开发仍然是件费时、易出错的工作。     

网络并行可视化平台的构架

并行程序可视化平台的实现有利于网络并行计算的发展,文中基于WPVM3.4平台,构建并实现了一个网络并行可视化平台,它由任务描述器、通信代码生成器、代码插入器等主要模块组成,并成功通过COM与Visual C+ +开发平台实现无缝连接,可以帮助并行程序开发人员从复杂的并行通信的繁琐性和并行系统的底层运作中解放出来.     

MPP上用类SPMD模式实现作业并行的方法

本文介绍了一种用户在MPP上用类SPMD模式实现作业并行的方法,主要讨论文件的可区分性和作业的组织与发送,并给出了相关程序片断。     

可移植的异构并行编程环境PVM

记得70年代美国宇航局的工程师们为了解决某个计算问题而将9个CPU搭成3×3的处理器阵列来并行执行。人们认为这一天就是并行计算的诞生日。 今天,我们到很多科研单位都会发现,由于实际问题规模的不断扩大、算法的复杂性不断提高,单个的计算机已经不能解决规模如此之大的问题,研究人员往往借助于网络机群系统的整体聚合处理能力来解决实际应用问题。如何调度多个计算机的资源来协同解决一个大型问题呢?用户如何编写一个让所有计算机同时为自己服务的并行程序呢?是不是只有那些精于科学研究的工作人员才能学会这些?笔者百思不得     

高性能科学计算的并行程序设计方法研究

由不同高性能RISC处理器及其构成的超级计算机系统，其基准性能和体系结构是不尽相同的，而且一种计算机体系结构的寿命也就只有3－5年时间，这将使得大多数付出巨大代价且在特定平台上开发成功的高性能科学计算程序往往会因为机型的改变而不能运行或不能很好运行，因此，人们迫切需要通用化程序，文中通过对在几种主流超级计算机上大量的测试数据的分析，指出了消息传递模式与指令级并行性对提高并行程序通用化程度的重要影响，同时也对利用网络化虚拟集群计算机资源从事高性能科学计算的可行性进行了讨论。     

Distributed Parallel Computing Using Navigational Programming

Message Passing (MP) and Distributed Shared Memory (DSM) are the two most common approaches to distributed parallel computing. MP is difficult to use, whereas DSM is not scalable. Performance scalability and ease of programming can be achieved at the same time by using navigational programming (NavP). This approach combines the advantages of MP and DSM, and it balances convenience and flexibility. Similar to MP, NavP suggests to its programmers the principle of pivot-computes and hence is efficient and scalable. Like DSM, NavP supports incremental parallelization and shared variable programming and is therefore easy to use. The implementation and performance analysis of real-world algorithms, namely parallel Jacobi iteration and parallel Cholesky factorization, presented in this paper supports the claim that the NavP approach is better suited for general-purpose parallel distributed programming than either MP or DSM.     

基于分布式共享存储器的并行程序设计

本文概述了分布式并行系统和分布式共享存储器的一般概念，讨论了使用共享对象和可靠广播的并行程序设计模型，最后给出了我们的改进模型。     

Scalable Parallel Matrix Multiplication on Distributed Memory Parallel Computers

Consider any known sequential algorithm for matrix multiplication over an arbitrary ring with time complexity O(N^α), where 2<α3. We show that such an algorithm can be parallelized on a distributed memory parallel computer (DMPC) in O(log N) time by using N^α/log N processors. Such a parallel computation is cost optimal and matches the performance of PRAM. Furthermore, our parallelization on a DMPC can be made fully scalable, that is, for all 1pN^α/log N, multiplying two N×N matrices can be performed by a DMPC with p processors in O(N^α/p) time, i.e., linear speedup and cost optimality can be achieved in the range [1..N^α/log N]. This unifies all known algorithms for matrix multiplication on DMPC, standard or non- standard, sequential or parallel. Extensions of our methods and results to other parallel systems are also presented. For instance, for all 1p N^α /log N, multiplying two N×N matrices can be performed by p processors connected by a hypercubic network in O(N^α/p+(N²/p^2/α)(log p)^2(α−1)/α) time, which implies that if p=O(N^α/(log N)^{2(α−1)/(α−2)}), linear speedup can be achieved. Such a parallelization is highly scalable. The above claims result in significant progress in scalable parallel matrix multiplication (as well as solving many other important problems) on distributed memory systems, both theoretically and practically.     

面向并行图像处理的实时分布式操作系统的设计与实现

针对多片TMS320C64 DSP构成的多计算机体系结构的实时图像识别系统，设计并实现了面向并行图像处理的实时分布式操作系统PIPORTDOS（Parallel image processing-oriented real-time distributed operating system）．PIPORTDOS基于微内核体系结构，包括硬件抽象层、系统核心层、分布式消息通信机制和系统服务层四个层次．其多任务内核实现了基于优先级的抢先式调度、任务闻的同步和通信原语、实时的中断处理以及面向应用的缓存管理机制．为了实现对分布式并行图像处理的支持，PIPORTDOS采用了基于消息传递（Message Passing）的方式，并在实现中充分考虑了上层图像处理算法的应用需求以及DSP的硬件功能．相关性能指标表明，本文设计实现的PIPORTDOS完全可以满足系统的强实时性要求．在功能上也能适应算法对不同并行结构的需求．     

并行分布式计算机系统与网络的内在联系分析

分布处理结构在计算机内部从单处理器到多处理器发展，以后逐步向多机系统和计算机网络系统发展，但此时计算机网络的分布处理能力已经有一些重要的本质性变化和发展，具有不同的结构特点和应用环境，文章对并行分布式计算机系统与网络的内在联系进行了详细分析和探讨。     

异构型计算与并行程序设计环境

异构型计算能有效地利用多种不同的高性能计算机，以满足大型计算问题的不同计算需求。本文着重讨论了支持异构型计算的并行程序设计环境所需具备的功能，并以目前最流行的ＰＶＭ和Ｅｘｐｒｅｓｓ系统为例进行说明。     

MILLIPEDE: Easy Parallel Programming in Available Distributed Environments

MILLIPEDE is a project aimed at developing a distributed shared memory environment for parallel programming. A major goal of this project is to support easy-to-grasp parallel programming languages that will also make it straightforward to parallelize existing code. Other targets are forward compatibility and availability of both the user programs (hence the shared memory support and the C-like parallel language PARC) and the system itself (which is thus implemented in user-level and using the operating system exported services). Locality of memory references, which implies efficiency and speedups, is maintained by MILLIPEDE} using page and thread migration, through which dynamic load-balancing and weak memory are implemented. ©1997 by John Wiley & Sons, Ltd.     

分布式存储环境下矩阵转置并行算法研究

本文针对基于消息传递机制的分布式高性能计算中经常遇到的矩阵转置问题,在分析环状算法的基础上,提出了一种新的蝶形并送算法。     

一种分布对象的并行程序设计框架

计算性能和合成性能对于基于工作站网的软件十分重要,但由于缺乏相应的开发环境,现在这类软件在这两方面还做得很不够,尤其是合成性能十分薄弱.该文提出并实现了一种基于分布对象的并行程序设计框架,力图使分布对象能提供高性能的并行计算服务,同时也使并行算法获得一种良好的封装和复用机制.经过一些并行算法的测试,表明该框架具有实用价值.