具有多种功能的可视化C++SSE优化
visual C++ SSE Optimisation with multiple functions
我有一些代码的结构与下面的类似。有一堆小型SSE辅助函数,一个较大的函数完成大部分工作,还有一个公共函数组织数据,在循环中运行大型函数并处理任何剩余的数据。
这使标量实现的速度提高了约2倍,但如果可能的话,我希望获得更多。除了一些概念问题外,在反汇编中还有一些我不喜欢的东西(只详细介绍了x86 VC++2010,但支持x86和GCC)。
对于至少一些目标,我在这里只能使用SSE和SSE2,但如果值得单独构建,我也可以使用更新的指令集。
问题1:
所有的小助手都很好地内联到了大助手中,而大助手则没有。
然而,即使它只被一个源文件中的一个函数引用,并且有很多寄存器(从算法来看,除了加载数据数组之外,它肯定最多只需要12个XMM寄存器),编译器似乎希望遵循fooHelper的正常调用约定。
因此,在将数据放入foo中的XMM寄存器后,它会将它们放回堆栈,并传递指针,然后在循环和整理内容后,它将堆栈加载回XMM,这样我就可以再次卸载它。。。
我想我可以强制它内联fooHelper,但这是大量重复的指令,因为它不会使用4个XMM寄存器来完成这项工作。我也不能在foo本身中使用SSE,这将消除加载/存储问题,但fooHelper仍在对这4个状态变量进行完全不需要的加载和存储。。。
理想情况下,因为这是一个私有函数,所以忽略正常调用约定的方法会很好,我相信这会出现在SSE的许多其他较大部分中,我真的不希望所有内容都完全内联。
问题2:
该实现基本上是在组织为AAAA、BBBB、CCCC、DDDD的4个状态向量上工作,这样代码就可以简单地编写,就好像它将A、B、C和D作为单独的变量工作一样,同时同时处理所有4个数据流。
但是,输出本身的格式为ABCD,ABCD,BAO,ABCD并且输入也是4个单独的缓冲区,需要_m_set_epi32来加载它。
有没有更好的方法来处理这些输入和输出(其格式实际上无法更改)?
namespace
{
void fooHelperA(__m128i &a, __m128i b, __m128i x, int s)
{
...small function (<5 sse operations)...
}
...bunch of other small functions...
//
void fooHelper(
const int *data1, const int *data2, const int *data3, const int *data4,
__m128i &a, __m128i &b, __m128i &c, __m128i &d)
{
//Get the current piece of data
__m128 c = _mm_set_epi32(data1[0], data2[0], data3[0], data4[0]);
...do stuff with data...
fooHelperA(a, b, c, 5);
...
c = _mm_set_epi32(data1[1], data2[1], data3[1], data4[1]);
...
fooHelperA(b, a, c, 7);
... lots more code ...
c = _mm_set_epi32(data1[3], data2[3], data3[3], data4[3]);
...
}
}
void foo(
const char*data1, const char *data2, const float *data3, const char *data4,
int*out1, int*out2, int*out3, int*out4,
size_t len)
{
__m128i a = _mm_setzero_si128();
__m128i b = _mm_setzero_si128();
__m128i c = _mm_setzero_si128();
__m128i d = _mm_setzero_si128();
while (len >= 16) //expected to loop <25 times for datasets in question
{
fooHelper((const int*)data1, (const int*)data2, (const int*)data3, (const int*)data4, a,b,c,d);
data1 += 16;
data2 += 16;
data3 += 16;
data4 += 16;
len -= 16;
}
if (len)
{
int[4][4] buffer;
...padd data into buffer...
fooHelper(buffer[0], buffer[1], buffer[2], buffer[3], a,b,c,d);
}
ALIGNED(16, int[4][4]) tmp;
_mm_store_si128((__m128i*)tmp[0], a);
_mm_store_si128((__m128i*)tmp[1], b);
_mm_store_si128((__m128i*)tmp[2], c);
_mm_store_si128((__m128i*)tmp[3], d);
out1[0] = tmp[0][0];
out2[0] = tmp[0][1];
out3[0] = tmp[0][2];
out4[0] = tmp[0][3];
out1[1] = tmp[0][0];
out2[1] = tmp[0][1];
out3[1] = tmp[0][2];
out4[1] = tmp[0][3];
out1[2] = tmp[0][0];
out2[2] = tmp[0][1];
out3[2] = tmp[0][2];
out4[2] = tmp[0][3];
out1[3] = tmp[0][0];
out2[3] = tmp[0][1];
out3[3] = tmp[0][2];
out4[3] = tmp[0][3];
}
一些建议,
1) 从您的代码和数据描述来看,通过将您的数据组织从SOA(数组的结构)您的AAAA向量移动到结构的AOS数组,您的输入数据将被组织为ABCD,您将有1个大的输入向量(4倍大),您似乎可以获得巨大的收益!
2) 注意数据对齐。现在你不在乎由于set_epi32函数,你是否应该有pinallity,但如果你切换到AOS,你应该能够使用快速加载(XMS的内存)。
3) 函数的结尾有点奇怪,(我现在无法模拟)我真的不明白为什么你需要一个tmp 2d数组。
4) 交织(和反向操作)可以使用SOA/AOS转换的一些示例来完成。。。英特尔在推广SIMD指令集时就这个主题写了很多论文。
祝你好运,alex
- 可视化 如何在 c++ 中制作特定大小的文件?
- 可视化C++:发布模式的运行时库作为'Multi-threaded Debug DLL'
- 提升如何在图形可视化中写入边缘的权重?
- 如何在大型c++项目的可视化代码中设置调试
- 可视化编译与 C++ 中的 Extern 变量
- 可视化 Bazel C++预编译标头实现
- 无法为 X.radio 创建中等可视化,因为找不到网络节点可视化 - Omnet++
- C++合并排序可视化工具
- 可视化 使用 VS Code 查找C++应用程序中的内存泄漏
- 可视化 将字符串解析为数组以进行C++
- 可视化 如何在C++中将字符数组转换为 FILE 类型
- 可视化C++载体:未使用的容量
- 可视化 如何在 c++ 中截断
- 如何使用可视化代码和平台IO将环境变量注入CPP文件?
- OpenCV 中大量可视化::Widget3D 的性能不佳
- GCC、CLANG 和 MSVC 的可视化C++自动矢量化要求
- 如何在可视化代码中生成用于 c++ 开发的调试器?
- 可视化 如何修复 c++ 中已经定义的 -main?
- 可视化C++外部定义内联函数
- 具有多种功能的可视化C++SSE优化