OpenMP 任务中的数据属性

Data Attribute in OpenMP's task

本文关键字:数据属性 任务 OpenMP      更新时间:2023-10-16

我已经用OpenMP编写了一个与快速排序相关的代码,如下所示:

#include <iostream>
#include <ctime>
#include <algorithm>
#include <functional>
#include <cmath>
using namespace std;
#include <omp.h>
void ParallelQuickSort(int *begin, int *end)
{
if (begin+1 < end) 
{
--end;
int *middle = partition(begin, end, bind2nd(less<int>(), *end));
swap(*end, *middle);
#pragma omp task shared(begin) firstprivate(middle)
ParallelQuickSort(begin, middle);
#pragma omp task shared(end) firstprivate(middle)
ParallelQuickSort(++middle, ++end); 
}
}
int main()
{
int n = 200000000;
int* a = new int[n];
for (int i=0; i<n; ++i)
{
a[i] = i;
}
random_shuffle(a, a+n);
cout<<"Sorting "<<n<<" integers."<<endl;
double startTime = omp_get_wtime();
#pragma omp parallel
{
#pragma omp single
ParallelQuickSort(a, a+n);
}
cout<<omp_get_wtime() - startTime<<" seconds."<<endl;
for (int i=0; i<n; ++i)
{
if (a[i] != i) 
{
cout<<"Sort failed at location i="<<i<<endl;
}
}
delete[] a;
return 0;
}

我在代码中遇到的问题是ParallelQuickSort函数中任务构造中的数据属性。变量middle应该是firstprivate而不是shared,因为执行这两个任务的线程可能会更改它。但是,如果我如代码中所示将变量begin和end设置为shared,则程序将失败。我想知道为什么它们(beginend)应该是firstprivate而不是shared。在我看来,由于执行这两个任务的线程分别保留变量beginend,因此它们不会相互影响。另一方面,ParallelQuickSort函数是递归的,因此在变量beginend中存在竞争(例如,在父函数和子函数中)。我不确定这个怀疑,因为变量在不同的函数(父函数和子函数)中。

首先,在显式任务中,在给定区域中被确定为private的变量自动为firstprivate,因此不需要将它们显式声明为firstprivate。其次,您的代码包含++end;--end;,它们修改了end的值,如果endshared,则会影响其他任务。firstprivate在这里是正确的数据共享类——每个任务只保留创建任务时它们曾经具有的beginendmiddle的值。

您的ParallelQuickSort应该如此简单:

void ParallelQuickSort(int *begin, int *end)
{
if (begin+1 < end) 
{
--end;
int *middle = partition(begin, end, bind2nd(less<int>(), *end));
swap(*end, *middle);
#pragma omp task
ParallelQuickSort(begin, middle);
#pragma omp task
ParallelQuickSort(++middle, ++end); 
}
}

请注意,尽管此代码有效,但它比单线程版本慢得多:在大型Xeon X7350(Tigerton)机箱上使用2个线程需要88.2秒,而使用单个线程需要50.1秒。原因是任务的创建一直持续到交换两个数组元素这一非常简单的任务。使用任务的开销是巨大的,应该设置一个合理的上限,低于该上限应该禁用任务,比如说当子数组大小达到1024个元素时。确切的数字取决于OpenMP运行时实现、CPU类型和内存速度,因此1024的值或多或少是随机选择的。尽管如此,最优值不应该创建两个处理落在同一缓存行中的元素的任务,因此元素的数量应该是16的倍数(每个缓存行64个字节/4个整数字节):

void ParallelQuickSort(int *begin, int *end)
{
if (begin+1 < end) 
{
--end;
int *middle = partition(begin, end, bind2nd(less<int>(), *end));
swap(*end, *middle);
#pragma omp task if((end - begin) > 1024)
ParallelQuickSort(begin, middle);
#pragma omp task if((end - begin) > 1024)
ParallelQuickSort(++middle, ++end); 
}
}

通过此修改,代码在同一个盒子上运行两个线程,持续34.2秒。