为什么浮动计算和强制转换在调试和发布配置中显示不同的结果

Why floating calculation and casting shows different result in debug and release configuration?

本文关键字：配置 显示 结果 计算 转换 为什么 调试 布配置      更新时间：2023-10-16

这对我来说真的是一个奇怪的bug，我花了很长时间才弄清楚发生了什么。为了简化和重现，只需使用VS2005创建一个空的win32控制台应用程序，并在主方法中使用以下代码：

float a = 411.00418f;
float b = 1.0f;
float c = 0.076279849f;
unsigned short result = (unsigned short)( (a-b)/c );
unsigned short result2 = (unsigned short)( (float)((a-b)/c) );
// Debug: 5374, 5375
// Release: 5374, 5374
printf("%d, %dn", result, result2);

为什么result2在调试/发布模式下显示不同的值？

在MSVC中，默认浮点模式为precise (/fp:precise)。这意味着优化器可以进行某些优化以提高准确性或性能。

尝试将模式更改为strict (/fp:strict)。这将使编译器在舍入等方面遵循严格的浮点规则。

（编辑：strict (/fp:strict)在这种情况下似乎不起作用…）

如果您查看优化构建的反汇编，您可以看到整个计算已经折叠并优化。

push    5374                    ; 000014feH
push    5374                    ; 000014feH
push    OFFSET ??_C@_07MHMABKGB@?$CFd?0?5?$CFd?6?$AA@
call    DWORD PTR __imp__printf
add esp, 12                 ; 0000000cH

EDIT：对我来说，这看起来像是一个编译器优化器错误。

在strict (/fp:strict)下，以下代码会产生不同的结果：

float a = 411.00418f;
float b = 1.0f;
float c = 0.076279849f;
unsigned short result1 = (unsigned short)((float)((a-b)/c));
float d = (float)((a-b)/c);
unsigned short result2 = (unsigned short)( d );

输出：

5374, 5375

将(float)((a-b)/c)拉出到单独的赋值中不应影响strict (/fp:strict)下的结果。

我认识一个在MSVC优化器上工作的人。我会给他发一份错误报告

更新：

以下是他们的回应：

嗨，亚历克斯，谢谢你的错误报告。我会设法为即将发布的VC++，但它可能无法成功。

FWIW，如果你抛出/arch:SSE2，这个错误就不会重现，因为我们正在为下一个VC++版本默认启用/arch:SSE2(https://connect.microsoft.com/VisualStudio/feedback/details/688736/compiler-generates-sse-instructions-without-arch-sse)。

因此，默认行为将显示此错误已修复。但是如果如果恢复到旧的FP模型（throw/arch:IA32），则错误可能仍然存在。

Eric

所以他们已经确认这是一个错误

相关文章：