多处理器多数据流并行计算
共同特点：通用处理器，各处理器能力相似
对称多处理机 SMP
可以采用分时共享总线方式，也有其他互连方式。
每个处理器都拥有自己的cache，带来cache一致性问题。
机群 cluster
多台互相独立的计算机，通过操作系统或中间件形成统一的计算资源。
程序需要较大的修改，才能用于cluster系统。
非均匀存储器存取 NUMA
所有处理器都可使用主存的任何部分；一个处理器的存储器存取时间取决于存储器区域；不同处理器的存储器存取时间取决于存储器区域。
程序只需要较少的修改，就可以用于NUMA系统。但是NUMA操作系统或中间件很难实现，特别是cache一致性问题。