如何测试MPI程序

一个常见的误解是，程序的并行实现总是比其顺序版本更快。

并行化程序的问题在于，使用多个线程会带来相当大的开销，而从单个线程运行的顺序程序不会受到这种开销的影响。我们不仅必须在最初设置这些线程，还需要进行顺序程序不需要的通信。

对于相对较小的问题，您会发现顺序解决方案几乎总是优于并行程序。随着问题规模的扩大，管理多个过程的成本相对于问题本身的计算成本逐渐变得微不足道。因此，您的并行版本将开始优于您的顺序程序。