MPI大数据处理
MPI large data processing
我的MPI应用程序将读取一系列图像来构建三维数据。它是非常大的数据(大约4 GB)。我不想把数据分发给每个员工。我不知道该怎么办。共享内存可能是一种解决方案。但是如何使用MPI来使用共享内存。我找了很多关于这个的东西,没有找到什么好的。有人能给我一些使用MPI处理大数据的建议或例子吗?(顺便说一句,我使用的是Open MPI实现)。非常感谢你的大力帮助。
您要查找的是添加到MPI-2中的单边通信。它在OpenMPI中可用。关于介绍,您可以查看http://www.linux-mag.com/id/1793/。
其原理是创建一个窗口(共享内存的一个区域),然后可以从该窗口获取或放置数据。MPI应该对其进行优化,以便在可用时使用RMA。还有像栅栏这样的机制可以确保进程之间的同步。
相关文章:
- 使用流处理接收到的数据
- 处理小于cpu数据总线的数据类型.(c++转换为机器代码)
- 在运行时处理类型擦除的数据-如何不重新发明轮子
- 如何使用 MPI 的远程内存访问 (RMA) 功能并行化数据聚合?
- 分析和数据处理 使用点云库的 las 文件
- 使用 seekp() 和 tellg() 进行数据处理
- 高速罐数据处理而无需使用堆内存
- C++中游戏的动态数据处理
- C++ istream 运算符>>不良数据处理
- 以下数据处理任务是否适合GPU计算
- 自动决定要用于数据处理的类
- 外部进程与线程和数据处理
- 为大型本地数据处理扩展堆栈的大小是个好主意吗
- MPI大数据处理
- Lua vs嵌入式Lisp和潜在的其他候选.用于基于集合的数据处理
- 大数据处理技术与书籍
- Win32异步客户端传入数据处理
- c++ Win32数据处理线程
- 关于高性能流式数据处理的问题
- 大数据阵列MPI发送