并行处理并行计算机发展简述40 年代开始的现代计算机发展历程可以分为两个明显的发展时代：串行计算时代、并行计算时代

每一个计算时代都从体系结构发展开始，接着是系统软件（特别是编译器与操作系统）、应用软件，最后随着问题求解环境的发展而达到顶峰

创建和使用并行计算机的主要原因是因为并行计算机是解决单处理器速度瓶颈的最好方法之一

并行计算机是由一组处理单元组成的，这组处理单元通过相互之间的通信与协作，以更快的速度共同完成一项大规模的计算任务

因此，并行计算机的两个最主要的组成部分是计算节点和节点间的通信与协作机制

并行计算机体系结构的发展也主要体现在计算节点性能的提高以及节点间通信技术的改进两方面

60 年代初期，由于晶体管以及磁芯存储器的出现，处理单元变得越来越小，存储器也更加小巧和廉价

这些技术发展的结果导致了并行计算机的出现，这一时期的并行计算机多是规模不大的共享存储多处理器系统，即所谓大型主机（Mainframe）

IBM360 是这一时期的典型代表

到了60 年代末期，同一个处理器开始设置多个功能相同的功能单元，流水线技术也出现了

与单纯提高时钟频率相比，这些并行特性在处理器内部的应用大大提高了并行计算机系统的性能

伊利诺依大学和Burroughs 公司此时开始实施IlliacIV 计划，研制一台64 个CPU 的SIMD 主机系统，它涉及到硬件技术、体系结构、I/O 设备、操作系统、程序设计语言直至应用程序在内的众多研究课题

不过，当一台规模大大缩小了的16CPU 系统终于在1975 年面世时，整个计算机界已经发生了巨大变化

首先是存储系统概念的革新，提出虚拟存储和缓存的思想

IBM360/85 系统与360/91是属于同一系列的两个机型，360/91 的主频高于360/85，所选用的内存速度也较快，并且采用了动态调度的指令流水线；但是，360/85 的整体性能却高于360/91，唯一的原因就是前者采用了缓存技术，而后者则没有

其次是半导体存储器开始代替磁芯存储器

最初，半导体存储器只是在某些机器被用作缓存，而CDC7600 则率先全面采用这种体积更小、速度更快、可以直接寻址的半导体存储器，磁芯存储器从此退出了历史舞台

与此同时，集成电路也出现了，并迅速应用到了计算机中

元器件技术的这两大革命性突破，使得IlliacIV 的设计者们在底层硬件以及并行体系结构方面提出的种种改进都大为逊色

1976 年CRAY-1 问世以后，向量计算机从此牢牢地控制着整个高性能计算机市场15 年

CRAY-1 对所使用的逻辑电路进行了精心的设计，采用了我们如今称为RISC 的精简指令集，还引入了向量寄存器，以完成向量运算

这一系列全新技术手段的使用，使CRAY-1 的主频达到了80MHz

微处理器随着机器的字长从4 位、8 位、16 位一直增加到32 位，其性能也随之显著提高

正是因为看到了微处理器的这种潜力，卡内基- 梅隆大学开始在当时流行的DECPDP11 小型计算机的基础上研制成功一台由16 个PDP11/40 处理机通过交叉开关与16 个共享存储器模块相连接而成的共享存储多处理器系统C.mmp

从80 年代开始，微处理器技术一直在高速前进

稍后又出现了非常适合于SMP 方式的总线协议，而伯克利加州大学则对总线协议进行了扩展，提出了Cache 一致性问题的处理方案

从此，C.mmp 开创出的共享存储多处理器之路越走越宽；现在，这种体系结构已经基本上统治了服务器和桌面工作站市场

同一时期，基于消息传递机制的并行计算机也开始不断涌现

80 年代中期，加州理工成功地将64 个i8086/i8087 处理器通过超立方体互连结构连结起来

此后，便先后出现了Intel iPSC 系列、INMOS Transputer 系列，Intel Paragon 以及IBM SP 的前身Vulcan 等基于消息传递机制的并行计算机

80 年代末到90 年代初，共享存储器方式的大规模并行计算机又获得了新的发展

IBM将大量早期RISC 微处理器通过蝶形互连网络连结起来

人们开始考虑如何才能在实现共享存储器缓存一致的同时，使系统具有一定的可扩展性（Scalability）

90 年代初期，斯坦福大学提出了DASH 计划，它通过维护一个保存有每一缓存块位置信息的目录结构来实现分布式共享存储器的缓存一致性

后来，IEEE 在此基础上提出了缓存一致性协议的标准

90 年代以来，主要的几种体系结构开始走向融合

属于数据并行类型的CM-5 除大量采用商品化的微处理器以外，也允许用户层的程序传递一些简单的消息；CRAY T3D是一台NUMA 结构的共享存储型并行计算机，但是它也提供了全局同步机制、消息队列机制，并采取了一些减少消息传递延迟的技术

随着商品化微处理器、网络设备的发展，以及MPI/PVM 等并行编程标准的发布，机群架构的并行计算机出现

IBM SP2 系列机群系统就是其中的典型代表

在这些系统中，各个节点采用的都是标准的商品化计算机，它们之间通过高速网络连接起来

越来越多的并行计算机系统采用商品化的微处理器加上商品化的互连网络构造，这种分布存储的并行计算机系统称为机群

国内几乎所有的高性能计算机厂商都生产这种具有极高性能价格比的高性能计算机，并行计算机就进入了一个新的时代，并行计算的应用达到了前所未有的广度和深度

并行计算机随着微处理芯片的发展，已经进入了一个新时代

并行计算机的性能已经突破20PFLOPS，正在向百亿亿次发展

我国并行计算机的研制已经走在世界前列

2003年由联想公司生产的深腾6800 在2003 年11 月世界TOP500 排名中位列第14 名，2004 年曙光公司生产的曙光4000A 在2004 年6 月的世界TOP500 排名中位列第10 名，这是我国公开发布的高性能计算机在世界TOP500 中首次进入前十名，这标志着我国在并行计算机系统的研制和生产中已经赶上了国际先进水平，为提高我国的科学研究水平奠定了物质基础

2013年国际超级计算机大会最新发布的世界超级计算机500强排名中，国防科技大学研制的天河二号超级计算机系统，以峰值计算速度每秒5.49亿亿次、持续计算速度每秒3.39亿亿次双精度浮点运算的优异性能位居榜首

从TOP500 的前10 名来看，美国仍然是超级计算机的最大拥有者

按照世界TOP500 的统计数据来分析，美国在计算能力上占有近全世界的一半，在TOP500 中的所有计算机中拥有的数量超过50% 

以上内容由大学时代综合整理自互联网，实际情况请以官方资料为准。